Cơ quan chức năng Ecuador phát hiện hàng chục sinh viên đã bị AI ghép ảnh, dựng 700 video khiêu dâm đăng lên mạng - Ảnh: The Star/Freepik
Cuộc điều tra bắt đầu khi nhiều hình ảnh và video được chỉnh sửa bằng AI, sử dụng khuôn mặt của sinh viên từ một học viện ở Quito, xuất hiện trên mạng.
Các kẻ xấu đã tận dụng công nghệ AI để ghép khuôn mặt của sinh viên vào các cơ thể khỏa thân, tạo ra các video và hình ảnh khiêu dâm.
Sybel Martinez, đại diện của chương trình chống bắt nạt học đường Grupo Rescate Escolar, cho biết có khoảng 700 video chứa nội dung khiêu dâm, sử dụng hình ảnh của 20-24 sinh viên theo cách trên.
Tại Ecuador, phân tán hình ảnh khiêu dâm của trẻ em và thanh thiếu niên có thể bị kết án tù lên đến 16 năm.
Tiến bộ của công nghệ trí tuệ nhân tạo đang gây ra nhiều mối lo ngại, vì nó có thể bị lạm dụng để tạo ra các hình ảnh và video giả mạo khuôn mặt thông qua deepfakes - mô phỏng máy tính dựa trên dữ liệu thực tế. Theo nghiên cứu của Công ty AI Sensity của Hà Lan vào năm 2019, khoảng 96% các video deepfake phát tán trên mạng có nội dung khiêu dâm, và hầu hết các nạn nhân bị giả mạo đều là phụ nữ.
