Ảnh minh họa: REUTERS.

Viện An toàn AI sẽ đảm nhận nhiệm vụ kiểm tra, đánh giá, và thử nghiệm các loại hình mới của trí tuệ nhân tạo. Mục tiêu là nắm vững khả năng của từng mô hình mới, xác định tất cả các rủi ro tiềm ẩn, từ quan điểm thiên vị đến thông tin sai lệch, và các vấn đề nguy cơ khác.

Thủ tướng Sunak nhấn mạnh rằng, mặc dù trí tuệ nhân tạo sẽ đóng góp tích cực vào sự phát triển kinh tế và nâng cao khả năng của con người, công nghệ này cũng mang lại những mối nguy hiểm mới. Ông cho rằng chỉ chính phủ mới có thể đánh giá chính xác các nguy cơ liên quan đến an ninh quốc gia, và không nên hoàn toàn tin tưởng vào ý kiến của các công ty công nghệ.

Thủ tướng cũng nhấn mạnh rằng, chính phủ Anh không muốn kiểm soát quá nhanh các ứng dụng trí tuệ nhân tạo, mà sẽ xây dựng năng lực hàng đầu thế giới để kiểm soát và đánh giá độ an toàn của các mô hình AI trong phạm vi quốc gia.

Báo cáo về AI đã được chính phủ công bố, và hội nghị sắp tới sẽ tập trung vào các thảo luận liên quan đến các mô hình đa năng tiên tiến. Báo cáo này sẽ cung cấp thông tin về các rủi ro tiềm ẩn của trí tuệ nhân tạo đối với xã hội, việc lạm dụng công nghệ này, và trong trường hợp tồi tệ nhất, sự nguy hiểm khi con người mất quyền kiểm soát AI.

Hội nghị cấp cao về an toàn AI dự kiến diễn ra trong hai ngày 1 và 2/11 tại Bletchley Park, phía nam vùng England, với sự tham gia của khoảng 100 khách mời, trong đó có Phó tổng thống Mỹ Kamala Harris và Giám đốc điều hành Google Demis Hassabis, cùng các học giả và nhà tiên phong trong lĩnh vực AI.

Sự tập trung của hội nghị sẽ là về nguy cơ rằng tội phạm và các phần tử khủng bố có thể tận dụng các tiến bộ trong trí tuệ nhân tạo để phát triển vũ khí hủy diệt hàng loạt, một trong những mối quan ngại lớn của Thủ tướng Anh Rishi Sunak về các tiềm năng nguy hiểm từ trí tuệ nhân tạo.