Darktrace: ChatGPT có thể làm gia tăng các vụ lừa đảo trên mạng

Theo đó, công ty an ninh mạng Darktrace của Anh cảnh báo công cụ trò chuyện ChatGPT sử dụng trí tuệ nhân tạo (AI) có thể đã làm gia tăng các vụ lừa đảo trên không gian mạng với những thủ đoạn hết sức tinh vi.

Darktrace nêu rõ công cụ ChatGPT, do công ty OpenAI của Mỹ phát triển và ra mắt vào tháng 11/2022, có thể đã làm gia tăng mức độ tinh vi của các vụ lừa đảo qua thư điện tử (e-mail), cho phép tin tặc tiến hành các vụ tấn công nhắm mục tiêu với xác suất thành công lớn hơn.

Cũng theo Darktrace, các vụ tấn công mạng qua e-mail nhằm vào các khách hàng của công ty này không tăng quá mạnh sau khi ChatGPT ra mắt và số lượng email chứa liên kết độc hại đã giảm.

Vấn đề về an ninh mạng cần được quan tâm đúng mực hơn trước những bước phát triển "thần tốc" của chatGPT.

Tuy nhiên, Darktrace cho biết "độ phức tạp về ngôn ngữ" của những e-mail này, bao gồm dấu chấm câu, độ dài câu và khối lượng văn bản, đã gia tăng. Điều này cho thấy tội phạm mạng có thể đang chuyển hướng tập trung sang tạo ra các thủ đoạn lừa đảo tinh vi và phức tạp hơn nhằm khai thác lòng tin của người dùng.

Từ khi ra mắt vào tháng 11 năm ngoái, ChatGPT đã thu hút sự chú ý của thế giới nhờ khả năng viết luận, làm thơ hoặc viết code theo yêu cầu chỉ trong vài giây.

Đây là phần mềm có tốc độ thu hút người dùng nhanh nhất khi đạt 57 triệu người dùng sau 1 tháng ra mắt và cán mốc 100 triệu tính đến 31/1 vừa qua. Tuy nhiên, công cụ này cũng đặt ra nhiều vấn đề về nguy cơ thông tin sai lệch và gian lận về học vấn.

Đầu tháng này, Ủy viên phụ trách lĩnh vực công nghiệp của Liên minh châu Âu (EU), ông Thierry Breton, cho biết EU sẽ áp đặt các quy định mới liên quan đến AI nhằm giải quyết những lo ngại về rủi ro của ChatGPT và đảm bảo người dùng ở châu Âu có thể tin tưởng công nghệ AI.

Trong khi đó, theo truyền thông Trung Quốc, các cơ quan quản lý của Trung Quốc đã yêu cầu các công ty công nghệ lớn của nước này không cung cấp dịch vụ ChatGPT cho người dân.

Trước đó trong diễn biến có liên quan,hãng công nghệ Snap Inc đã công bố thông tin cho biết hãng này đang thử nghiệm trên ứng dụng Snapchat một công cụ trò chuyện được hỗ trợ bởi ứng dụng trí tuệ nhân tạo (AI) ChatGPT.

Theo Snap Inc, chatbot trên được gọi là My AI, là phiên bản tùy chỉnh công cụ ChatGPT của OpenAI và sẽ được ra mắt trong tuần này dưới dạng một “tính năng thử nghiệm” dành cho những người dùng đăng ký Snapchat+.

Snapchat cho biết My AI có thể gợi ý quà tặng sinh nhật, lên kế hoạch cho chuyến đi bộ đường dài hoặc gợi ý thực đơn cho bữa tối. Người dùng có thể tùy chỉnh công cụ bằng cách đặt tên và tạo hình nền cho chatbot của họ.

ChatGPT và các công cụ AI phổ biến khác đang thu hút sự chú ý của thế giới khi có nhiều báo cáo ghi nhận về việc các công cụ AI này đưa ra các thông tin sai lệch khi được hỏi, một thuật ngữ mà các chuyên gia gọi là “ảo giác”.

Snapchat cũng cảnh báo rằng công cụ My AI của mình dễ bị "ảo giác" và có thể đưa ra thông tin không chính xác khi được hỏi. Đồng thời, cho biết tất cả các cuộc trò chuyện với My AI sẽ được Snapchat lưu trữ và có thể được phân tích để cải thiện tính năng sản phẩm. Snap Inc lưu ý người dùng không nên chia sẻ các thông tin bí mật với My AI và không dựa vào công cụ này để xin lời khuyên.