Theo Chủ tịch FTC Lina Khan, mặc dù các công cụ AI là mới lạ, nhưng chúng không được miễn trừ khỏi các luật hiện hành và FTC sẽ thực thi mạnh mẽ các quy định thuộc trách nhiệm quản lý của cơ quan này, ngay cả trong thị trường AI mới mẻ. Bà Lina Khan cho biết thêm FTC hiện có đủ khả năng để thực hiện việc quản lý các công cụ AI.

Người đứng đầu FTC lưu ý một trong những nguy cơ là các công ty thống trị dịch vụ điện toán đám mây sẽ ngày càng lớn mạnh khi những công ty này giúp các công ty khởi nghiệp và công ty khác triển khai công cụ AI của mình. Các công cụ AI cũng có thể được sử dụng để tạo điều kiện thuận lợi cho việc "thổi giá".

"Làn sóng" phòng ngự trước ảnh hưởng tiêu cực của AI đang lan nhanh trên toàn cầu.

Bà Lina Khan cũng bày tỏ lo ngại các công cụ AI tổng quát có thể được sử dụng để giúp những kẻ lừa đảo tạo ra các thư điện tử (email) lừa đảo hiệu quả hơn. Đồng thời, bà cho biết khi thực thi luật cấm các hành vi lừa đảo, FTC sẽ xem xét cả những kẻ lừa đảo đang sử dụng các công cụ AI lẫn các công ty cho phép sử dụng các công cụ này để phục vụ hành vi lừa đảo.

Sự phổ biến mạnh mẽ của công cụ ChatGPT do OpenAI phát triển thời gian gần đây đã làm dấy lên những lo ngại về khả năng các công cụ AI được sử dụng cho những hành vi sai trái và thúc đẩy các lời kêu gọi toàn cầu về công tác quản lý.

Cùng ngày, Giám đốc an ninh thông tin của Facebook, Guy Rosen, cho biết trong tháng qua, các nhà phân tích an ninh hợp tác với mạng xã hội này đã phát hiện phần mềm độc hại giả mạo là ChatGPT hoặc những công cụ AI khác.

Ông Rosen mô tả đây là làn sóng tấn công bằng mã độc, lợi dụng sự hiếu kỳ của người dùng về công nghệ AI. Meta đã phát hiện những cách thức câu kéo người dùng như hứa hẹn sẽ cung cấp các năng lực AI tạo sinh nhưng thực chất là phần mềm độc hại, được thiết kế để tấn công thiết bị của người dùng.

Theo đó, các tin tặc thường giăng bẫy bằng việc gợi ý về những công cụ đang thu hút sự chú ý, lừa người dùng mạng bấm vào các đường link hoặc tải về các chương trình được thiết kế để tấn công thiết bị và đánh cắp dữ liệu. Meta đã phát hiện và chặn hơn 1.000 địa chỉ web được quảng cáo là cung cấp các công cụ AI tương tự như ChatGPT.

Ông Rosen cho biết đến nay dù chỉ mới phát hiện AI bị tin tặc lợi dụng để giăng bẫy người dùng nhưng công ty cũng đã chuẩn bị cho tình huống được đánh giá là "khó tránh khỏi" khi AI được sử dụng như một thứ vũ khí.

Ông Rosen nêu rõ AI tạo sinh có tiềm năng rất lớn và nhiều kẻ xấu cũng biết về những điều này nên phải cảnh giác để đảm bảo an toàn. Đồng thời, Meta cũng đang nghiên cứu các cách thức để sử dụng AI tạo sinh ngăn chặn tin tặc và các chiến dịch tạo ảnh hưởng trên mạng internet.