| Làm sao để kiểm soát những 'ảo tưởng' của AI? Người dùng nên chọn lựa AI tạo sinh như thế nào để vừa an toàn vừa tối ưu? Cách AI và tự động hóa đang định nghĩa lại các cuộc tấn công hiện đại |
Ngày 13/10, hơn 200 nhà nghiên cứu trong lĩnh vực trí tuệ nhân tạo (AI) và an ninh mạng đã ký thư kêu gọi triển khai các biện pháp kiểm soát chặt chẽ hơn đối với những mô hình AI có khả năng thực hiện các hoạt động tấn công mạng. Động thái này nhằm hạn chế nguy cơ các hệ thống AI gây ảnh hưởng đến hạ tầng trọng yếu.
Thư kêu gọi có chữ ký của nhà nghiên cứu Geoffrey Hinton, người đoạt giải Nobel, và nhà khoa học máy tính Yoshua Bengio, chủ nhân Giải thưởng Turing, cùng nhiều chuyên gia khác trong lĩnh vực AI.
 |
| Ảnh minh họa được tạo bởi AI. |
Một trong những đề xuất đáng chú ý là cách ly vật lý các mô hình AI có khả năng thực hiện tác vụ an ninh mạng khỏi Internet trong quá trình thử nghiệm. Theo các nhà nghiên cứu, biện pháp này nhằm giảm thiểu nguy cơ mô hình vượt qua các cơ chế kiểm soát hiện có, qua đó hạn chế những rủi ro tiềm ẩn khi phát triển và thử nghiệm các hệ thống AI có năng lực tấn công mạng.
Lời kêu gọi phản ánh mối quan tâm ngày càng lớn của giới nghiên cứu về việc bảo đảm an toàn cho các mô hình AI có năng lực thực hiện những tác vụ an ninh mạng. Việc tăng cường kiểm soát trong quá trình thử nghiệm được xem là một hướng tiếp cận nhằm hạn chế nguy cơ công nghệ này bị sử dụng để gây tổn hại cho các hệ thống và hạ tầng quan trọng.
Trong bối cảnh AI tiếp tục phát triển, thách thức không chỉ nằm ở việc nâng cao khả năng phát hiện và ngăn chặn các cuộc tấn công mạng, mà còn ở việc bảo đảm chính những công cụ AI được sử dụng trong nghiên cứu không trở thành nguồn phát sinh rủi ro. Cách ly vật lý là một hướng tiếp cận nhằm tăng cường an toàn trong quá trình thử nghiệm, nhưng cần được đặt trong tổng thể các biện pháp quản lý và kiểm soát phù hợp.
