Mối nguy từ công nghệ nhân bản giọng nói

Mối nguy từ công nghệ nhân bản giọng nói

Ngoài những tiện ích mà trí tuệ nhân tạo (AI) mang lại, xã hội đang phải đối mặt với nguy cơ rủi ro ngày càng tăng từ công nghệ này. Trong số những mối đe dọa tiềm tàng, việc nhân bản giọng nói đang là một trong những vấn đề được quan tâm. Những kẻ lừa đảo dùng công nghệ này để sao chép giọng nói của những người quen và đáng tin cậy để lừa đảo họ chuyển tiền.

 

Công nghệ nhân bản giọng nói dễ giúp kẻ lừa đảo mạo danh người khác - Ảnh: ISTOCK

Bà Marie Haynes, một chuyên gia về trí tuệ nhân tạo (Al), cho biết mọi người có thể sử dụng các công cụ như ChatGPT hay Bing và Google để tạo ra giọng nói rất giống giọng nói và nhịp điệu nói của họ.

Theo Đài CTV của Canada, công nghệ trí tuệ nhân tạo này sẽ khiến mọi người khó phân biệt giọng nói của người thật và người ảo.

Bà Haynes cảnh báo nhân bản giọng nói sẽ là công cụ mới cho những kẻ lừa đảo mạo danh người khác.

Ông Carmi Levy, một nhà phân tích công nghệ, giải thích: những kẻ lừa đảo thậm chí có thể giả mạo số điện thoại của gia đình và bạn bè nạn nhân, khiến cuộc gọi có vẻ thực sự đến từ người mà chúng đang mạo danh.

Bà Haynes cũng cảnh báo nhân bản giọng nói mới chỉ là bước khởi đầu. Khi trí tuệ nhân tạo đủ mạnh, kẻ xấu thậm chí có thể nhân bản cả khuôn mặt của ai đó.

"Khi nhận được một cuộc gọi FaceTime, làm sao tôi biết được đó là người tôi thật sự quen biết? Biết đâu có ai đó đang giả mạo họ", bà Haynes nhấn mạnh.

Các chuyên gia kêu gọi mọi người hãy cảnh giác. Nếu nhận được cuộc gọi đề nghị chuyển tiền, hãy xác minh trước khi bấm nút chuyển.

Theo Interesting Engineering thông tin, có nhiều trường hợp nạn nhân đã bị lừa đảo bằng cách sử dụng công nghệ AI để tái tạo giọng nói của người quen của họ. Đơn cử như một chàng trai ở Mỹ bị mất hơn 8.000 USD khi kẻ lừa đảo sử dụng giọng nói của người bạn để yêu cầu chuyển tiền. Trong một vụ khác, một người đàn ông tại Ấn Độ đã bị lừa đảo hơn 200.000 INR (tương đương khoảng 2.700 USD) bởi kẻ lừa đảo sử dụng giọng nói của người quen của anh ta để yêu cầu chuyển tiền.

Những vụ lừa đảo này chỉ là một phần nhỏ trong những nguy cơ tiềm tàng của công nghệ AI, do đó, chúng ta cần phải cẩn trọng khi sử dụng các ứng dụng và công nghệ mới.