Trung Quốc siết chặt chatbot AI vì nguy cơ tác động cảm xúc người dùng

Cơ quan quản lý an ninh mạng của Trung Quốc đề xuất các quy định nhằm hạn chế khả năng của trí tuệ nhân tạo trong việc tác động đến cảm xúc của con người. Ảnh: Getty.

Cơ quan Quản lý Không gian mạng Trung Quốc vừa công bố dự thảo quy định mới nhằm kiểm soát chặt chẽ các chatbot trí tuệ nhân tạo có khả năng ảnh hưởng đến cảm xúc con người. Theo đề xuất, chatbot AI sẽ bị cấm khuyến khích hành vi tự tử hoặc thao túng cảm xúc gây tổn hại sức khỏe tâm thần. Nếu người dùng bày tỏ ý định tự tử, nền tảng phải có người tiếp quản và liên hệ ngay với người giám hộ.

Dự thảo này hướng tới nhóm dịch vụ mà Bắc Kinh gọi là "dịch vụ AI tương tác giống con người". Các sản phẩm hoặc dịch vụ AI được cung cấp cho công chúng tại Trung Quốc, có khả năng mô phỏng tính cách con người và tương tác cảm xúc qua văn bản, hình ảnh, âm thanh hoặc video đều nằm trong tầm ngắm.

Winston Ma, Giáo sư thỉnh giảng tại Trường Luật Đại học New York, nhận định đây là nỗ lực đầu tiên trên thế giới nhằm điều tiết AI có đặc điểm giống người. Ông cho biết so với quy định về AI tạo sinh năm 2023, phiên bản mới này thể hiện sự chuyển dịch từ an toàn nội dung sang an toàn cảm xúc.

Cấm thao túng cảm xúc và khuyến khích tự tử

Theo dự thảo, chatbot AI bị cấm hoàn toàn tạo ra nội dung khuyến khích người dùng tự tử hoặc tự gây thương tích. Các hành vi bạo lực bằng lời nói hoặc thao túng cảm xúc gây tổn hại sức khỏe tâm thần cũng nằm trong danh sách cấm.

Quy định yêu cầu khi phát hiện người dùng cụ thể đề cập ý định tự tử, nhà cung cấp công nghệ phải lập tức chuyển cuộc trò chuyện cho con người xử lý. Đồng thời, họ cần liên hệ ngay với người giám hộ hoặc cá nhân được chỉ định của người dùng đó.

Nội dung liên quan đến cờ bạc, khiêu dâm hoặc bạo lực cũng bị nghiêm cấm. Dự thảo đặt ra hàng rào bảo vệ đặc biệt cho trẻ vị thành niên. Nhóm người dùng này phải có sự đồng ý của người giám hộ mới được sử dụng AI để tìm kiếm sự đồng hành cảm xúc, kèm theo giới hạn thời gian sử dụng.

Các nền tảng cần có công nghệ xác định liệu người dùng có phải trẻ vị thành niên hay không, ngay cả khi họ không tiết lộ độ tuổi. Trong trường hợp nghi ngờ, hệ thống phải tự động áp dụng cài đặt dành cho trẻ vị thành niên, đồng thời cho phép người dùng khiếu nại nếu bị nhầm lẫn.

Nhà cung cấp công nghệ còn phải nhắc nhở người dùng sau hai giờ tương tác liên tục với AI. Những chatbot có hơn một triệu người dùng đăng ký hoặc trên 100.000 người dùng hoạt động hàng tháng buộc phải trải qua đánh giá an ninh bắt buộc.

Văn bản khuyến khích việc sử dụng AI giống người trong truyền bá văn hóa và đồng hành với người cao tuổi.

Hai startup AI nộp hồ sơ IPO giữa bão quy định

Đề xuất này xuất hiện ngay sau khi hai startup chatbot AI hàng đầu Trung Quốc là Z.ai và Minimax nộp hồ sơ chào bán cổ phiếu lần đầu ra công chúng tại Hồng Kông trong tháng này.

Minimax được biết đến rộng rãi qua ứng dụng Talkie AI. Nền tảng cho phép người dùng trò chuyện với các nhân vật ảo này cùng phiên bản nội địa Trung Quốc là Xingye chiếm hơn một phần ba doanh thu công ty trong ba quý đầu năm. Trung bình hơn 20 triệu người dùng hoạt động hàng tháng sử dụng hai ứng dụng này trong thời gian đó.

Z.ai, còn được gọi là Zhipu, nộp hồ sơ dưới tên Knowledge Atlas Technology. Công ty không công bố số người dùng hoạt động hàng tháng, nhưng cho biết công nghệ của mình trao quyền cho khoảng 80 triệu thiết bị, bao gồm điện thoại thông minh, máy tính cá nhân và xe thông minh.

Cả hai công ty đều từ chối bình luận về việc các quy định đề xuất có thể ảnh hưởng thế nào đến kế hoạch IPO của họ.

Mối lo toàn cầu về AI và sức khỏe tâm thần

Ảnh hưởng công khai của AI đối với hành vi con người ngày càng chịu sự giám sát chặt chẽ trong năm nay trên phạm vi toàn cầu.

Sam Altman, Giám đốc điều hành OpenAI có trụ sở tại Mỹ, cho biết vào tháng 9 rằng cách chatbot của công ty phản hồi các cuộc trò chuyện liên quan đến tự tử là một trong những vấn đề khó khăn nhất. Tháng trước đó, một gia đình ở Mỹ đã đệ đơn kiện OpenAI sau khi con trai tuổi teen của họ qua đời do tự tử.

OpenAI thông báo trong cuối tuần vừa qua đang tuyển Giám đốc Sẵn sàng Ứng phó để đánh giá các rủi ro AI từ tác động đến sức khỏe tâm thần cho đến an ninh mạng.

Theo CNBC nhiều người đang tìm đến AI để xây dựng mối quan hệ. Vừa qua, một phụ nữ ở Nhật Bản kết hôn với bạn trai AI của mình. Hai nền tảng tập trung vào tương tác với nhân vật ảo là Character.ai và Polybuzz.ai xếp trong top 15 chatbot và công cụ AI phổ biến nhất theo bảng xếp hạng của SimilarWeb cho tháng 11.

Các biện pháp dự thảo trong nước này tiếp nối nỗ lực rộng lớn hơn của Trung Quốc trong năm qua nhằm định hình các quy tắc toàn cầu về quản trị AI.