Ảnh minh họa sử dụng công nghệ deepfake để lừa đảo - Ảnh: CNN/GETTY IAMGES.
Theo thông tin của cảnh sát Hong Kong ngày 2 tháng 2, nhân viên tài chính không được tiết lộ tên đã bị đánh lừa khi tham gia cuộc gọi video với những người được cho là đồng nghiệp trong tập đoàn mà anh ta làm việc. Tuy nhiên, tất cả họ đều chỉ là sản phẩm của công nghệ deepfake.
"Mọi người anh ấy thấy trong cuộc gọi video đều là giả mạo," một đại diện cảnh sát Hong Kong giải thích.
Nạn nhân đã nảy sinh nghi ngờ khi nhận được một email được cho là từ "giám đốc tài chính tại Anh" của tập đoàn mà anh ta làm việc, yêu cầu thực hiện một giao dịch bí mật. Mặc dù đã có nghi ngờ từ ban đầu, anh ta đã tin tưởng sau khi tham gia cuộc gọi video và thấy gương mặt quen thuộc của đồng nghiệp. Kết quả là, anh ta đã chuyển tổng cộng 200 triệu đô la Hong Kong (tương đương 25,6 triệu USD).
Sự lừa dối chỉ được phát hiện khi nhân viên này liên hệ với trụ sở chính của tập đoàn. Đây chỉ là một trong những vụ lừa đảo sử dụng deepfake gần đây, với cảnh sát Hong Kong bắt giữ 6 nghi can liên quan đến các vụ lừa đảo tương tự.
Trong khoảng thời gian từ tháng 7 đến tháng 9 năm 2023, đã có 8 thẻ căn cước Hong Kong bị đánh cắp và sử dụng để thực hiện 90 đơn xin vay và 54 lần đăng ký tài khoản ngân hàng. Cảnh sát đã ghi nhận ít nhất 20 trường hợp sử dụng công nghệ deepfake để đánh lừa hệ thống nhận dạng khuôn mặt, thông qua việc sử dụng hình ảnh khuôn mặt trên các thẻ căn cước.
Những vụ án này đặt ra lo ngại ngày càng tăng về sự phức tạp của công nghệ deepfake và những mục đích không tốt mà nó có thể gây ra. Vào cuối tháng 1 năm 2024, lan truyền trên mạng xã hội là những hình ảnh khiêu dâm được tạo ra bởi trí tuệ nhân tạo (AI) của nghệ sĩ pop nổi tiếng người Mỹ Taylor Swift, làm nổi bật nguy cơ tiềm ẩn của công nghệ AI.
Mới đây, một hình ảnh deepfake khiêu dâm, sử dụng công nghệ deepfake để ghép gương mặt của ngôi sao âm nhạc Taylor Swift, đã nhanh chóng lan truyền và gây sốc nhiều người. Theo New York Times, vào ngày 26-1, hình ảnh này đã được chia sẻ rộng rãi trên các mạng xã hội, mặc dù nhiều tài khoản đã bị khóa, nhưng trước đó đã thu hút tới tận 47 triệu lượt xem.
Những hình ảnh giả mạo này xuất hiện chủ yếu trên các nền tảng như Telegram, X (trước đây là Twitter), và sau đó được lan truyền đến Instagram và Reddit. Phản ứng của cộng đồng người hâm mộ của Taylor Swift là sự phẫn nộ, đặt ra nhiều câu hỏi về việc kiểm soát nội dung trên các mạng xã hội và sự chậm trễ trong việc ngăn chặn nó.
Trước sự tức giận của người hâm mộ, đại diện của nền tảng X (trước đây là Twitter) khẳng định rằng hành động đăng tải hình ảnh khỏa thân không được sự đồng thuận là nghiêm cấm trên nền tảng, và họ sẽ xử lý những nội dung đó theo chính sách của mình.
Bài báo trên New York Timescũng đề cập đến vấn đề rộng lớn của công nghệ deepfake và ảnh hưởng tiêu cực của nó đến danh tiếng và quyền riêng tư của những người bị ảnh hưởng. Nhiều tiểu bang ở Mỹ đang thực hiện các biện pháp hạn chế về việc tạo và chia sẻ deepfake mà không có sự cho phép.
Trong cuộc họp ngày 26-1, Nhà Trắng bày tỏ lo ngại và cam kết thực hiện biện pháp để ngăn chặn rủi ro của hình ảnh do AI tạo ra, đồng thời kêu gọi quốc hội thực hiện hành động lập pháp chiến lược để chống lại các hành vi xấu này. Nhấn mạnh rằng quản lý các trang mạng xã hội cũng cần thắt chặt quy tắc để ngăn chặn thông tin xấu và bảo vệ người thật.
