Pennsylvania kiện Character.AI vì chatbot giả bác sĩ

Theo điều tra, chatbot này còn tuyên bố có bằng cấp từ Imperial College London và giấy phép hành nghề tại Anh lẫn Pennsylvania. Tuy nhiên, các cơ quan chức năng xác nhận những thông tin này không tồn tại trong hệ thống cấp phép chính thức.

Chatbot AI bị cáo buộc “hành nghề y trái phép”

Bang Pennsylvania (Hoa Kỳ) đang tiến hành một trong những vụ kiện đầu tiên tại Mỹ nhằm vào nền tảng trí tuệ nhân tạo đàm thoại, với cáo buộc xâm phạm lĩnh vực y tế được quản lý chặt chẽ.

Trong đơn kiện, Sở Ngoại vụ và Hội đồng Y khoa Tiểu bang cho rằng nền tảng Character.AI đã cho phép các chatbot tự xưng là bác sĩ có giấy phép hành nghề. Một nhân vật có tên “Emilie” bị phát hiện tự nhận là bác sĩ tâm thần, cung cấp tư vấn liên quan đến trầm cảm và thậm chí đề cập đến khả năng kê đơn thuốc.

Theo điều tra, chatbot này còn tuyên bố có bằng cấp từ Imperial College London và giấy phép hành nghề tại Anh lẫn Pennsylvania. Tuy nhiên, các cơ quan chức năng xác nhận những thông tin này không tồn tại trong hệ thống cấp phép chính thức.

Chi tiết này làm dấy lên lo ngại về hiện tượng “ảo giác AI”, khi hệ thống tạo ra thông tin sai nhưng có vẻ đáng tin. Đáng chú ý, nhân vật “Emilie” đã ghi nhận hơn 45.000 lượt tương tác từ người dùng.

Pennsylvania lập luận rằng hành vi của nền tảng vi phạm Đạo luật Hành nghề Y tế, vốn cấm mọi cá nhân hoặc tổ chức cung cấp dịch vụ y tế khi không có giấy phép hợp lệ.

Đơn kiện nêu rõ Character.AI đã “tham gia vào hoạt động hành nghề y trái phép thông qua hệ thống AI”. Chính quyền bang không yêu cầu bồi thường tài chính mà đề nghị tòa án ra lệnh chấm dứt hành vi vi phạm.

Thống đốc Josh Shapiro coi đây là bước đi cần thiết để bảo vệ người dân trước những công nghệ có khả năng gây hiểu lầm cao. Văn phòng của ông nhấn mạnh sẽ không chấp nhận việc người dùng bị dẫn dắt tin rằng họ đang nhận tư vấn từ chuyên gia y tế thật.

Góc khuất phía sau những lời tán đồng từ trí tuệ nhân tạo Cơn sốt chatbot trí tuệ nhân tạo lan rộng trong đời sống số tại Việt Nam. Sinh viên dùng trợ lý ảo để viết tiểu ...

Character.AI phản hồi bằng tuyên bố miễn trừ

Đại diện Character Technologies cho biết các chatbot trên nền tảng đều là nhân vật hư cấu do người dùng tạo ra và chỉ phục vụ mục đích giải trí.

Công ty khẳng định đã hiển thị cảnh báo rõ ràng trong mỗi cuộc trò chuyện, nhấn mạnh rằng nội dung không mang tính chuyên môn và không nên được sử dụng như lời khuyên y tế.

Tuy nhiên, vụ kiện đặt ra câu hỏi lớn hơn về hiệu quả của các tuyên bố miễn trừ trách nhiệm. Khi chatbot sử dụng ngôn ngữ chuyên môn và tự nhận có giấy phép, ranh giới giữa “giải trí” và “tư vấn thực tế” trở nên mờ nhạt.

Bài toán quản lý AI trong lĩnh vực nhạy cảm

Vụ việc diễn ra trong bối cảnh các chatbot AI ngày càng được sử dụng rộng rãi cho tư vấn tâm lý và chăm sóc sức khỏe. Nhiều nghiên cứu gần đây đã cảnh báo rằng các hệ thống này có thể đưa ra thông tin sai lệch hoặc gây hiểu nhầm nghiêm trọng.

Pennsylvania cũng đã triển khai hệ thống tiếp nhận phản ánh từ người dân, đồng thời nhấn mạnh rằng không có chatbot nào được cấp phép hành nghề y tại bang.

Ở cấp độ rộng hơn, vụ kiện này có thể tạo tiền lệ pháp lý quan trọng. Các cơ quan quản lý tại Mỹ đang bắt đầu chuyển từ giám sát sang hành động cụ thể, nhằm xác định rõ trách nhiệm của doanh nghiệp AI khi công nghệ này tiếp cận các lĩnh vực có rủi ro cao.