Lệnh cấm áp dụng đối với các nội dung liên quan đến cá nhân sinh sống tại Hà Lan và các hoạt động phát tán trong lãnh thổ nước này. Phán quyết sơ bộ này yêu cầu công ty phát triển xAI phải ngăn chặn việc tạo ra các hình ảnh trong đó một người bị “lột bỏ” quần áo một phần hoặc toàn bộ, hoặc bị mô tả trong trạng thái gợi dục khi chưa có sự cho phép rõ ràng. Nếu không tuân thủ, doanh nghiệp có thể bị phạt 100.000 euro mỗi ngày.
Tòa án cũng yêu cầu không được cung cấp Grok trên nền tảng X nếu công cụ này tiếp tục vi phạm các quy định nêu trên. Vụ việc bắt nguồn từ đơn kiện của tổ chức Offlimits, đơn vị chuyên hỗ trợ nạn nhân bị lạm dụng trực tuyến, phối hợp với một quỹ bảo vệ nạn nhân tại Hà Lan. Các nguyên đơn cho rằng công cụ này có thể bị lợi dụng để tạo ra hình ảnh nhạy cảm của người khác mà không được đồng ý, gây tổn hại nghiêm trọng đến danh dự và đời sống cá nhân.
![Logo xAI và Grok trong vụ kiện liên quan nội dung nhạy cảm]( "Logo xAI và Grok trong vụ kiện liên quan nội dung nhạy cảm") |
| Logo xAI và Grok trong vụ kiện liên quan nội dung nhạy cảm |
Tại phiên điều trần, phía xAI cho rằng không thể kiểm soát hoàn toàn cách người dùng sử dụng công cụ và doanh nghiệp không nên chịu trách nhiệm cho các hành vi lạm dụng. Công ty cũng cho biết đã bổ sung một số biện pháp hạn chế từ đầu năm nhằm ngăn chặn việc chỉnh sửa hình ảnh theo hướng nhạy cảm.
Tuy nhiên, tòa án nhận định các biện pháp này chưa đủ hiệu quả. Theo phía nguyên đơn, trong quá trình kiểm tra, công cụ vẫn có thể tạo ra các hình ảnh “cởi đồ” mà không cần sự đồng ý của người bị chỉnh sửa. Tòa cho rằng trách nhiệm kiểm soát rủi ro thuộc về đơn vị phát triển.
Phán quyết được đưa ra trong bối cảnh châu Âu tăng cường giám sát các nền tảng công nghệ theo Đạo luật Dịch vụ Kỹ thuật số EU, yêu cầu các nền tảng lớn phải chủ động ngăn chặn nội dung vi phạm pháp luật. Trước đó, Ủy ban châu Âu đã mở cuộc điều tra đối với nền tảng X liên quan đến các rủi ro khi triển khai Grok tại khu vực này.
Cũng trong ngày 26/3, Nghị viện châu Âu đã thông qua quyết định tăng cường quản lý các ứng dụng “nudifier” là những công cụ AI có khả năng tạo hoặc chỉnh sửa hình ảnh khỏa thân. Quy định mới cấm việc tạo ra hình ảnh nhạy cảm của cá nhân có thể nhận diện khi chưa có sự đồng ý rõ ràng.
Động thái từ Hà Lan và Liên minh châu Âu phản ánh xu hướng chung trong khu vực: siết chặt các công nghệ AI có nguy cơ xâm phạm quyền riêng tư, đặc biệt là deepfake và nội dung liên quan đến trẻ em.
Đây được xem là một trong những trường hợp đầu tiên tại châu Âu một mô hình AI lớn bị yêu cầu đình chỉ hoạt động vì rủi ro nội dung. Phán quyết cho thấy trách nhiệm pháp lý đối với các nền tảng AI đang ngày càng được siết chặt, không chỉ dừng ở chính sách mà còn ở hiệu quả thực thi.
Hiện Grok vẫn hoạt động tại nhiều quốc gia khác, trong đó có Việt Nam. Tuy nhiên, tại Hà Lan, một số tính năng, đặc biệt là tạo hình ảnh có thể bị hạn chế cho đến khi phía phát triển hoàn tất điều chỉnh theo yêu cầu của tòa án.
