Anthropic công bố báo cáo phát hiện nhà khoa học dùng AI Claude nghiên cứu vũ khí sinh học

Hướng dẫn về liêm chính khoa học và đạo đức nghề nghiệp trong nghiên cứu

xAI kiện người dùng Grok tạo deepfake khiêu dâm từ ảnh thật

Anthropic đưa AI vào trạng thái 'mơ', mở rộng trí nhớ cho tác nhân số

Nguồn: Michael M. Santiago/Getty Images

Anthropic công bố báo cáo cho biết đã phát hiện và khóa tài khoản nhiều nhà khoa học sử dụng mô hình Claude để phục vụ nghiên cứu có khả năng tạo ra vũ khí sinh học, theo thông tin công bố ngày 10/9. Công ty đã khóa các tài khoản liên quan ngay khi bộ lọc an toàn sinh học phát cảnh báo.

Báo cáo tổng hợp nhiều trường hợp Anthropic ghi nhận việc lạm dụng các mô hình AI của hãng, trong đó lạm dụng liên quan sinh học chỉ là một phần nhưng ngày càng đáng lo khi các mô hình mới như Fable 5 hỗ trợ nghiên cứu khoa học tốt hơn trước. Tài liệu liệt kê năm trường hợp cụ thể, mô tả biện pháp an toàn đã phát hiện hành vi và cách công ty xử lý từng vụ việc.

Anthropic thừa nhận với New York Times rằng việc phân biệt lạm dụng không hề đơn giản, bởi một đề xuất nghiên cứu vaccine mới đôi khi mang hình thức gần giống một kế hoạch chế tạo vũ khí sinh học. Công ty cho biết đã chọn cách xử lý thận trọng cao trong mọi tình huống, do hậu quả tiềm ẩn quá lớn nếu bỏ sót. Jacob Klein, người đứng đầu bộ phận tình báo về nguy cơ của Anthropic, mô tả tình huống này mang tính chất tinh vi, khác xa hình ảnh một kẻ xấu công khai tuyên bố muốn chế vũ khí giết người hàng loạt.

Một trường hợp diễn ra hồi tháng 5 cho thấy bộ lọc an toàn sinh học của Anthropic đã chặn một yêu cầu nhờ Claude soạn đơn xin tài trợ cho nghiên cứu tăng chức năng đối với virus chikungunya. Loại virus này hiện chưa có thuốc điều trị đặc hiệu, có thể gây triệu chứng suy nhược kéo dài nhiều tuần đến nhiều tháng. Nghiên cứu tăng chức năng là hướng tìm hiểu cách biến đổi gene của sinh vật, và trong trường hợp này, đơn đề xuất nhắm tới việc tăng khả năng lây truyền cũng như khả năng né tránh hệ miễn dịch của virus. Sự kết hợp đó vốn đã tiềm ẩn rủi ro, Anthropic cho biết mức độ đáng ngờ càng tăng khi đề xuất có liên hệ với một viện nghiên cứu quân sự.

Công ty ghi nhận vấn đề tương tự ở một nghiên cứu tăng chức năng liên quan cúm gia cầm, cùng một trường hợp khác khi một nhà nghiên cứu dùng Claude để xây dựng bản đồ các peptide độc tố nọc độc, đi kèm quy trình tạo sinh giúp tối ưu đặc tính của độc tố. Báo cáo đầy đủ còn nêu thêm những trường hợp mô hình Anthropic bị lợi dụng làm công cụ giám sát, tạo lỗ hổng phần mềm khai thác được, sản xuất nội dung tuyên truyền và hỗ trợ hệ thống vũ khí.

Theo công ty, bất kỳ ai bị phát hiện lạm dụng Claude hoặc các mô hình khác của Anthropic đều bị khóa tài khoản ngay lập tức. Kết quả điều tra sau đó được dùng để cải thiện thêm các lớp bảo vệ của mô hình, nhằm ngăn chặn những vụ lạm dụng tương tự trong tương lai. Do tính chất nhạy cảm của lạm dụng liên quan sinh học, Anthropic không công bố danh tính cá nhân hay tổ chức liên quan tới các trường hợp chế tạo vũ khí sinh học tiềm tàng trong cuộc điều tra. Công ty nhấn mạnh những người có liên quan đều là nhà khoa học đang làm việc bình thường, không khẳng định họ có ý định gây hại, và việc công khai danh tính có thể khiến họ gặp nguy hiểm.