Theo OpenAI, việc giao tiếp xã hội với AI có thể khiến người dùng trở nên ít muốn tương tác với con người hơn - Ảnh minh họa: GETTY IMAGES.
Một số nghiên cứu mà OpenAI dẫn chứng cho thấy việc trò chuyện với AI như với con người có thể dẫn đến sự tin tưởng không đúng chỗ. Đặc biệt, việc nhân hóa AI—gán những đặc điểm con người cho các mô hình phi nhân loại - có thể dẫn đến những rủi ro đáng kể. Tính năng giọng nói cao cấp của GPT-4o có thể làm gia tăng hiện tượng này, khiến người dùng dễ dàng cảm thấy rằng họ đang thực sự giao tiếp với một thực thể có nhận thức.
Công ty đã nhận thấy những dấu hiệu ban đầu về mối quan hệ gần gũi mà người dùng hình thành với AI, chẳng hạn như những lời tâm sự khi biết rằng ngày hôm đó là lần cuối cùng họ có thể trò chuyện với AI. Những trường hợp này, dù có vẻ vô hại, vẫn cần được nghiên cứu kỹ hơn để hiểu rõ tác động lâu dài.
OpenAI cũng cảnh báo rằng việc giao tiếp quá nhiều với AI có thể làm giảm kỹ năng xã hội của người dùng, khiến họ trở nên kém khéo léo hoặc ít muốn tương tác với con người hơn. Việc AI ghi nhớ chi tiết trong quá trình trò chuyện và thực hiện các nhiệm vụ có thể khiến con người phụ thuộc quá mức vào công nghệ, dẫn đến sự thay đổi trong cách họ đối xử với các mối quan hệ xã hội thực sự.
Ngoài ra, OpenAI cũng phát hiện ra rằng AI có thể dễ dàng bị thao túng để lặp lại thông tin sai lệch và thậm chí tạo ra các thuyết âm mưu, gây lo ngại rằng AI có thể ảnh hưởng đến niềm tin của người dùng theo hướng tiêu cực.
Tháng 6 vừa qua, OpenAI đã gặp phải một tranh cãi khi nữ diễn viên Scarlett Johansson phản ứng mạnh mẽ về việc một giọng nói rất giống giọng cô được sử dụng trong phiên bản ChatGPT mới. Mặc dù OpenAI phủ nhận việc sử dụng giọng của Johansson, sự việc này đã làm dấy lên thêm nhiều lo ngại về việc sử dụng AI trong giao tiếp xã hội và giải trí.
