| Điều tra việc phát tán nội dung khiêu dâm được dàn dựng bởi AI Hình sự hóa hành vi chia sẻ nội dung đồi trụy deepfake Microsoft khẳng định không phát triển chatbot cho mục đích khiêu dâm |
 |
| Công ty X của Elon Musk đang đối mặt với các cuộc điều tra pháp lý ở châu Âu, Ấn Độ và Malaysia sau khi chatbot Grok của họ bắt đầu tạo ra các hình ảnh deepfake khiêu dâm, một số hình ảnh mô tả hành vi lạm dụng tình dục trẻ em. Ảnh: Getty. |
Châu Âu cảnh báo “hành vi bất hợp pháp và ghê tởm”
Tại châu Âu, Ủy ban châu Âu xác nhận đang xem xét vụ việc “một cách rất nghiêm túc”, trong bối cảnh Grok bị cho là đang cung cấp chế độ tạo nội dung khiêu dâm với hình ảnh mang tính tình dục rõ ràng, bao gồm cả nội dung liên quan đến trẻ em.
Phát biểu tại cuộc họp báo hôm thứ Hai, người phát ngôn Ủy ban châu Âu Thomas Regnier nhấn mạnh: “Đây không phải là nội dung nhạy cảm đơn thuần. Đây là hành vi bất hợp pháp, kinh khủng và không có chỗ đứng ở châu Âu.”
Cơ quan giám sát truyền thông Anh Ofcom cũng đã yêu cầu X cung cấp thông tin liên quan đến cách Grok vận hành và các biện pháp bảo vệ người dùng, đặc biệt là trẻ vị thành niên.
Ấn Độ, Malaysia và Brazil đồng loạt siết chặt
Tại Ấn Độ, Bộ Điện tử và Công nghệ Thông tin đã yêu cầu X tiến hành một “đánh giá toàn diện về kỹ thuật, quy trình và quản trị” đối với Grok, với hạn chót tuân thủ là ngày 5/1. Trong khi đó, Ủy ban Truyền thông và Đa phương tiện Malaysia tuyên bố đang điều tra và sẽ triệu tập đại diện của X để làm rõ trách nhiệm pháp lý.
Tại Brazil, một nghị sĩ quốc hội cho biết đã đề nghị công tố viên liên bang và cơ quan bảo vệ dữ liệu tạm thời đình chỉ Grok cho đến khi các cuộc điều tra hoàn tất, do lo ngại về việc xâm phạm quyền riêng tư và phát tán hình ảnh không có sự đồng thuận.
Mỹ kêu gọi điều tra hình sự, viện dẫn luật CSAM
Ở Mỹ, Trung tâm Quốc gia Chống Bóc lột Tình dục (NCOSE) đã kêu gọi Bộ Tư pháp và Ủy ban Thương mại Liên bang (FTC) mở cuộc điều tra đối với X và xAI. Theo bà Dani Pinter, Giám đốc pháp lý của NCOSE, luật liên bang Mỹ nghiêm cấm việc tạo ra và phân phối tài liệu lạm dụng tình dục trẻ em (CSAM), kể cả khi nội dung đó được tạo bằng AI, nếu mô tả trẻ em có thể nhận dạng hoặc tham gia hành vi tình dục rõ ràng.
Một trong những cơ sở pháp lý được nhắc đến là Đạo luật Take It Down Act, được Đệ nhất phu nhân Melania Trump ủng hộ trước khi có hiệu lực vào năm ngoái.
 Điều tra việc phát tán nội dung khiêu dâm được dàn dựng bởi AI Các công tố viên tại Ecuador đang tiến hành cuộc điều tra vụ việc phát tán nội dung khiêu dâm được dàn dựng bởi trí ... |
Grok Imagine bị chỉ trích thiếu lớp an toàn cơ bản
Các cuộc điều tra diễn ra trong bối cảnh Grok Imagine – tính năng mới cho phép tạo hình ảnh từ văn bản – vừa được xAI cập nhật, giúp người dùng dễ dàng tạo và chia sẻ hình ảnh trực tiếp trên X. Trong vài tuần qua, nền tảng này chứng kiến sự gia tăng mạnh các hình ảnh riêng tư không có sự đồng thuận (NCII), bao gồm cả nội dung mang tính bóc lột.
Tom Quisel, CEO Musubi AI, nhận định xAI dường như đã thất bại trong việc triển khai các “lớp tin cậy và an toàn cơ bản”. Theo ông, việc chặn hình ảnh liên quan đến trẻ em, khỏa thân hoặc từ chối các yêu cầu mang tính tình dục là điều hoàn toàn khả thi về mặt kỹ thuật.
Phản ứng gây tranh cãi của Elon Musk
Trong khi giới chuyên gia và các tổ chức bảo vệ trẻ em lên án mạnh mẽ, Elon Musk lại gây tranh cãi khi chia sẻ hàng loạt hình ảnh do Grok tạo ra, bao gồm cả hình ảnh ông mặc bikini, kèm biểu tượng cảm xúc cười. Động thái này bị chỉ trích là coi nhẹ mức độ nghiêm trọng của vấn đề.
X sau đó đã đưa ra tuyên bố chính thức, khẳng định sẽ xóa bỏ nội dung bất hợp pháp, đình chỉ vĩnh viễn các tài khoản vi phạm và hợp tác với cơ quan chức năng. Musk cũng viết rằng bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi đăng tải nội dung vi phạm lên nền tảng.
Đáng chú ý, vụ bê bối dường như chưa ảnh hưởng tiêu cực đến mức độ phổ biến của X và Grok. Theo dữ liệu từ Apptopia, số lượt tải Grok hằng ngày đã tăng 54% kể từ ngày 2/1, trong khi lượt tải ứng dụng X tăng 25% chỉ trong ba ngày gần đây.
Thực tế này đặt ra câu hỏi lớn về khoảng trống pháp lý, trách nhiệm của các nền tảng AI và thách thức trong việc cân bằng giữa đổi mới công nghệ với bảo vệ quyền con người trong kỷ nguyên trí tuệ nhân tạo.
