Trung Quốc và Hoa Kỳ đối mặt với nguy cơ 'tự sát công nghệ'

Prakash nói với CNBC: “Với AI, Trung Quốc hy vọng sẽ thay đổi cán cân quyền lực trên toàn cầu, giống như tạo ra một mô hình xuất khẩu mới. Và song song đó, Trung Quốc muốn thúc đẩy nền kinh tế theo những cách mới, từ hiệu quả của chính phủ đến các ứng dụng kinh doanh”.

Hoa Kỳ đã theo đuổi chính sách cố gắng hạn chế quyền tiếp cận của Trung Quốc đối với các công nghệ quan trọng, chủ yếu là chất bán dẫn như những sản phẩm do Nvidia thiết kế, cần thiết để đào tạo các mô hình AI tiên tiến hơn. Trung Quốc đã phản ứng bằng cách cố gắng xây dựng ngành công nghiệp chip trong nước.

Các nhà công nghệ đã cảnh báo về một số rủi ro và nguy hiểm khi AGI cuối cùng cũng xuất hiện. Một lý thuyết cho rằng nếu không có rào chắn, AI sẽ có thể tự cải thiện và thiết kế các hệ thống mới một cách độc lập.

Tegmark tin rằng cả Hoa Kỳ và Trung Quốc đều sẽ nhận ra những rủi ro như vậy, điều này sẽ buộc chính phủ của cả hai nước phải tự đưa ra các quy định về an toàn AI.

Tegmark cho biết: “Vì vậy, con đường lạc quan của tôi là Hoa Kỳ và Trung Quốc đơn phương áp đặt các tiêu chuẩn an toàn quốc gia để ngăn chặn các công ty của họ gây hại và xây dựng AGI không thể kiểm soát, không phải để xoa dịu các siêu cường đối thủ mà chỉ để bảo vệ chính họ”.

“Sau khi điều đó xảy ra, sẽ có một giai đoạn thực sự thú vị mà Hoa Kỳ và Trung Quốc sẽ giống như, chờ đã, làm sao chúng ta có thể đảm bảo rằng Bắc Triều Tiên không xây dựng AGI hoặc bất kỳ ai khác? Và sau đó Hoa Kỳ và Trung Quốc có động lực để thúc đẩy phần còn lại của thế giới tham gia cùng họ vào lệnh tạm dừng AGI.”

Thật vậy, các chính phủ đã cố gắng hợp tác để tìm ra cách tạo ra các quy định và khuôn khổ xung quanh AI. Năm ngoái, Vương quốc Anh đã tổ chức một hội nghị thượng đỉnh về an toàn AI, có sự tham dự của cả Hoa Kỳ và Trung Quốc, để thảo luận về các rào cản tiềm năng xung quanh công nghệ này.

Nhưng quy định và luật lệ xung quanh AI hiện đang bị phân mảnh. Năm nay, Liên minh Châu Âu đã ban hành Đạo luật AI , luật lớn đầu tiên trên toàn cầu quản lý công nghệ này. Trung Quốc có bộ quy tắc riêng, trong khi nhiều quốc gia khác vẫn chưa có động thái tạo ra bất kỳ quy định nào.

Hy vọng của Tegmark về sự phối hợp xung quanh vấn đề an toàn AI cũng được nhiều người khác đồng tình.

Schaefer của Trivium China cho biết: “Khi mối nguy hiểm của cạnh tranh lớn hơn phần thưởng, các quốc gia sẽ có động lực để xích lại gần nhau và tự điều chỉnh lẫn nhau”.

Bà cho biết: “Thực tế, một số nhà hoạch định chính sách Trung Quốc đã ủng hộ việc giải quyết trước vấn đề tiềm ẩn đó và thành lập một cơ quan quản lý quốc tế trực thuộc Liên hợp quốc – tương tự như Cơ quan Năng lượng Nguyên tử Quốc tế – do đó, Bắc Kinh mong muốn thành lập một cơ quan quản lý toàn cầu”.