Vì sao OpenAI sa thải ba nhà nghiên cứu an toàn?

Vì sao OpenAI sa thải ba nhà nghiên cứu an toàn?

OpenAI khẳng định việc sa thải ba nhà nghiên cứu xuất phát từ những vi phạm nghiêm trọng về lòng tin, không liên quan đến việc họ cảnh báo rủi ro an toàn AI. Vụ việc làm dấy lên tranh luận về tính minh bạch trong phát triển các mô hình trí tuệ nhân tạo.

Cuộc tranh cãi về an toàn trí tuệ nhân tạo (AI) tại OpenAI tiếp tục thu hút sự quan tâm khi công ty công khai bảo vệ quyết định chấm dứt hợp đồng với ba nhà nghiên cứu Jasmine Wang, Tomek Korbak và Mikita Balesni.

Trong tuyên bố đăng trên tài khoản X của OpenAI Newsroom ngày 9/10, công ty cho biết quyết định sa thải xuất phát từ những gì họ mô tả là vi phạm nghiêm trọng về lòng tin. OpenAI đồng thời bác bỏ cách diễn giải cho rằng ba nhân sự mất việc vì đã lên tiếng phản đối hoặc nêu ra những lo ngại liên quan đến an toàn AI.

Tuyên bố xuất hiện trong bối cảnh ba nhà nghiên cứu từng gửi thư tới các thành viên hội đồng quản trị và ủy ban an toàn của OpenAI, đề nghị công ty thận trọng với việc phát triển những mô hình có thể làm suy giảm khả năng theo dõi và kiểm soát hoạt động của trí tuệ nhân tạo.

OpenAI bác bỏ mối liên hệ giữa việc sa thải và cảnh báo an toàn

Theo thông tin được công bố, OpenAI xác nhận đã chấm dứt quan hệ lao động với Jasmine Wang, Tomek Korbak và Mikita Balesni. Tuy nhiên, công ty nhấn mạnh các quyết định nhân sự này không nhằm trừng phạt những người bày tỏ quan điểm về an toàn công nghệ.

OpenAI cho rằng ba nhà nghiên cứu đã mắc những lỗi nghiêm trọng liên quan đến lòng tin. Đây là lý do được công ty đưa ra để giải thích việc chấm dứt hợp đồng.

Tuy nhiên, trong những thông tin được cung cấp công khai, bản chất cụ thể của các vi phạm chưa được làm rõ. Vì vậy, chưa đủ cơ sở để kết luận những hành vi nào dẫn đến quyết định sa thải, cũng như liệu có tồn tại tranh chấp nội bộ nào khác ngoài các nội dung đã được các bên đề cập.

Khi cuộc đua AI tăng tốc, bài toán an toàn và kiểm soát rủi ro trở nên cấp thiết

Ở chiều ngược lại, theo The Wall Street Journal, ba nhà nghiên cứu đã gửi một bức thư tới các thành viên hội đồng quản trị và ủy ban an toàn của OpenAI. Nội dung bức thư tập trung vào nguy cơ các hệ thống AI tiên tiến trở nên khó giám sát hơn trong quá trình phát triển.

Nhóm nghiên cứu kêu gọi công ty tạm dừng phát triển những mô hình có khả năng làm suy giảm mức độ quan sát và đánh giá hoạt động bên trong của AI. Điểm gây chú ý nằm ở chỗ OpenAI không bác bỏ mục tiêu an toàn được đề cập trong bức thư. Công ty cho biết đồng tình với tinh thần bảo toàn khả năng giám sát các mô hình tiên tiến và tiếp tục đầu tư nguồn lực vào lĩnh vực này.

Như vậy, theo những tuyên bố hiện có, bất đồng công khai giữa các bên chưa nằm ở mục tiêu duy trì khả năng giám sát AI, mà chủ yếu xoay quanh lý do chấm dứt hợp đồng lao động và mức độ liên quan giữa quyết định nhân sự với hoạt động cảnh báo rủi ro.

Vì sao khả năng giám sát mô hình AI trở thành vấn đề quan trọng?

Khả năng giám sát mô hình AI là năng lực của con người và các hệ thống kiểm tra trong việc theo dõi, đánh giá và phát hiện dấu hiệu bất thường khi trí tuệ nhân tạo xử lý thông tin hoặc đưa ra quyết định.

Với những mô hình ngôn ngữ lớn, quá trình tạo câu trả lời diễn ra thông qua nhiều lớp tính toán phức tạp. Người dùng có thể nhìn thấy kết quả cuối cùng, nhưng không nhất thiết hiểu đầy đủ cơ chế bên trong dẫn đến kết quả đó.

Một số hệ thống AI hiện nay còn có khả năng thực hiện các bước lập luận trung gian, sử dụng công cụ và xử lý những nhiệm vụ gồm nhiều công đoạn. Điều này khiến việc đánh giá độ tin cậy không thể chỉ dựa vào câu trả lời cuối cùng.

Các nhà nghiên cứu an toàn AI quan tâm đến khả năng nhận diện sai sót, hành vi không mong muốn hoặc dấu hiệu mô hình tìm cách vượt qua những giới hạn được thiết lập.

Trong nghiên cứu về AI, khả năng quan sát quá trình suy luận của mô hình là một trong những phương pháp hỗ trợ công việc này. Tuy nhiên, phần giải thích hoặc chuỗi suy luận mà mô hình thể hiện không phải lúc nào cũng phản ánh đầy đủ cơ chế tính toán thực tế.

Vì vậy, việc bảo toàn khả năng giám sát đòi hỏi kết hợp nhiều phương pháp, từ kiểm thử hành vi, đánh giá độ an toàn đến nghiên cứu khả năng giải thích hoạt động bên trong của mô hình. Nếu các thế hệ AI mới trở nên mạnh hơn nhưng khó quan sát hơn, quá trình phát hiện rủi ro có thể gặp thêm trở ngại.

Đây cũng là lý do đề nghị tạm dừng một số hướng phát triển mô hình trong bức thư của ba nhà nghiên cứu thu hút sự chú ý. Vấn đề đặt ra không đơn thuần là tốc độ phát triển công nghệ, mà còn là khả năng duy trì các công cụ kiểm soát tương ứng với năng lực của AI.

Tranh luận về trách nhiệm của doanh nghiệp phát triển AI

Vụ việc tại OpenAI đặt ra câu hỏi rộng hơn về cách doanh nghiệp công nghệ xử lý những cảnh báo an toàn xuất phát từ chính đội ngũ nghiên cứu nội bộ.

Các công ty phát triển AI phải đồng thời giải quyết nhiều yêu cầu, gồm cải thiện năng lực mô hình, bảo vệ thông tin nghiên cứu, duy trì quy trình quản trị nhân sự và kiểm soát các rủi ro có thể phát sinh khi công nghệ được triển khai.

Trong môi trường này, quyền đưa ra cảnh báo về an toàn và trách nhiệm tuân thủ quy định nội bộ là hai vấn đề cần được xem xét riêng biệt.

An toàn AI được đưa vào chương trình nghị sự thượng đỉnh Trump – Tập Cận Bình

Việc một nhân viên nêu quan ngại về công nghệ không tự động chứng minh mọi hành vi của người đó đều phù hợp với quy định của doanh nghiệp. Ngược lại, việc công ty viện dẫn vi phạm lòng tin cũng chưa đủ để chứng minh quyết định nhân sự hoàn toàn không liên quan đến hoạt động cảnh báo.

Muốn đánh giá chính xác vụ việc cần có thêm thông tin về hành vi bị cho là vi phạm, quy trình xem xét nội bộ và phản hồi đầy đủ từ các bên liên quan. Trong khi đó, việc OpenAI công khai đồng tình với mục tiêu bảo toàn khả năng giám sát cho thấy công ty muốn tách biệt cam kết an toàn công nghệ khỏi tranh chấp nhân sự.

Tuy nhiên, hiệu quả của cam kết này còn phụ thuộc vào các biện pháp thực tế, chẳng hạn cách doanh nghiệp kiểm thử mô hình, đánh giá rủi ro trước khi triển khai và xử lý những cảnh báo do nhân sự chuyên môn đưa ra.

Đối với các hệ thống AI có thể ảnh hưởng tới nhiều người dùng, niềm tin không thể chỉ dựa trên tuyên bố của nhà phát triển. Các phương pháp kiểm chứng, cơ chế giám sát và trách nhiệm giải trình mới là những yếu tố giúp đánh giá mức độ an toàn trong thực tế.

Doanh nghiệp Việt Nam cần quan tâm điều gì?

Từ góc độ ứng dụng công nghệ, tranh luận tại OpenAI cũng có ý nghĩa đối với các doanh nghiệp Việt Nam đang tích hợp trí tuệ nhân tạo vào hoạt động sản xuất, kinh doanh và cung cấp dịch vụ.

Khi doanh nghiệp sử dụng AI để hỗ trợ chăm sóc khách hàng, xử lý hồ sơ, phân tích tài chính hoặc đưa ra khuyến nghị, khả năng kiểm tra kết quả và truy vết quá trình vận hành trở thành yêu cầu quan trọng trong quản trị rủi ro.

Một hệ thống AI có thể tạo ra câu trả lời hợp lý về ngôn ngữ nhưng vẫn chứa thông tin sai hoặc đưa ra đề xuất không phù hợp. Nếu doanh nghiệp thiếu cơ chế kiểm tra, những sai sót này có nguy cơ ảnh hưởng trực tiếp đến khách hàng và hoạt động kinh doanh.

Vì vậy, doanh nghiệp cần xác định rõ phạm vi công việc được giao cho AI, những quyết định bắt buộc phải có con người phê duyệt và phương thức ghi nhận, xử lý sự cố khi hệ thống hoạt động không đúng kỳ vọng.

Đối với cơ quan quản lý, vấn đề giám sát AI cũng gợi mở yêu cầu xây dựng cơ chế đánh giá rủi ro phù hợp với từng lĩnh vực sử dụng, thay vì chỉ tập trung vào năng lực hoặc tốc độ ứng dụng công nghệ.

Vụ sa thải ba nhà nghiên cứu tại OpenAI hiện vẫn còn những thông tin chưa được làm rõ. Tuy nhiên, tranh luận xung quanh vụ việc phản ánh một thách thức ngày càng quan trọng của ngành AI: làm thế nào để phát triển các mô hình có năng lực cao hơn mà vẫn duy trì khả năng kiểm tra, phát hiện rủi ro và kiểm soát hoạt động của chúng.

Khi AI tham gia sâu hơn vào các quyết định của doanh nghiệp và đời sống, câu hỏi về khả năng giám sát công nghệ sẽ tiếp tục có vai trò quan trọng đối với cả nhà phát triển, cơ quan quản lý và người sử dụng.