Bắt nạt học đường thời AI: Nguy cơ và cảnh báo dành cho Việt Nam

Trong khi trí tuệ nhân tạo (AI) mở ra nhiều cơ hội đổi mới trong giáo dục, nó cũng đang vô tình tạo ra những hình thức bắt nạt học đường mới tinh vi, khó kiểm soát hơn. Tại Mỹ, một số trường hợp học sinh bị bắt nạt bằng công nghệ AI đã gióng lên hồi chuông cảnh báo cho toàn thế giới. Tại Việt Nam, AI được xem là trọng tâm quan trọng trong quá trình đẩy mạnh chuyển đổi số giáo dục, cũng cần nhìn nhận nghiêm túc nguy cơ này để có biện pháp ứng phó kịp thời.

Bắt nạt học đường bằng AI: Những chiêu trò mới

Theo các báo cáo gần đây tại Mỹ, nhiều học sinh đã trở thành nạn nhân của những bức ảnh giả mạo (deepfake) được tạo bằng công nghệ AI. Các hình ảnh này có thể biến tấu gương mặt nạn nhân vào các bối cảnh nhạy cảm, không đứng đắn, nhằm mục đích chế giễu, làm nhục hoặc lan truyền trên mạng xã hội.

Bắt nạt học đường thời AI: Nguy cơ và cảnh báo dành cho Việt Nam. Ảnh: Internet

Một trường hợp tiêu biểu xảy ra tại một trường trung học ở New Jersey: một nữ sinh đã bị bạn học sử dụng ứng dụng AI ghép mặt vào ảnh khỏa thân, sau đó lan truyền trong cộng đồng mạng học sinh. Cô bé rơi vào trạng thái lo âu, trầm cảm, phải nghỉ học dài ngày. Sự việc chỉ dừng lại khi nhà trường phối hợp với cơ quan chức năng vào cuộc, nhưng hậu quả tâm lý thì khó có thể xóa nhòa.

Đáng lo ngại hơn, nhiều phần mềm AI hiện nay cực kỳ dễ sử dụng. Các app chỉnh sửa ảnh, video AI chỉ cần vài phút để tạo ra sản phẩm giả mạo thuyết phục, khiến việc phát hiện gian lận trở nên vô cùng khó khăn, kể cả với người lớn.

Tại sao AI khiến "vấn nạn" bắt nạt học đường trở nên nghiêm trọng hơn?

Thứ nhất, tốc độ và quy mô lan truyền: Trước đây, hành vi bắt nạt thường giới hạn trong phạm vi lớp học, sân trường. Nhưng với AI và mạng xã hội, một trò đùa ác ý có thể lan rộng trong vài giờ, thậm chí trở thành hiện tượng trên Internet. Theo nghiên cứu của Pew Research Center (2024), khoảng 46% thanh thiếu niên Mỹ cho biết đã chứng kiến hoặc trải qua bắt nạt trực tuyến, và tỷ lệ này đang tăng nhanh với sự phổ biến của AI.

Thứ hai, độ tin cậy của hình ảnh, video giả mạo: AI tạo ra sản phẩm giả mạo có độ chân thực cao (hyper-realistic), khiến ngay cả phụ huynh, giáo viên cũng khó phân biệt đâu là thật, đâu là giả. Điều này làm trầm trọng thêm sự tổn thương của nạn nhân vì rất khó để minh oan.

Thứ ba, tính ẩn danh của kẻ bắt nạt: AI có thể được sử dụng để tạo ra nội dung dưới danh nghĩa tài khoản ảo, danh tính giả. Điều này khiến việc truy tìm và xử lý kẻ xấu trở nên khó khăn, đồng thời khuyến khích hành vi xấu do kẻ bắt nạt cảm thấy "an toàn".

Nguy cơ hiện hữu tại Việt Nam

Tại Việt Nam, hiện tượng bắt nạt học đường vốn đã tồn tại lâu nay dưới nhiều hình thức như cô lập, chế giễu ngoại hình, bạo lực thể chất. Sự bùng nổ công nghệ số trong giới trẻ, đặc biệt là việc sử dụng TikTok, Facebook, Instagram...đang làm gia tăng "bắt nạt mạng". Với sự xuất hiện rộng rãi của các công cụ AI tạo sinh miễn phí như DeepArt, FaceSwap, Runway, Canva AI..., nguy cơ biến tướng thành bắt nạt bằng AI hoàn toàn có thể xảy ra nếu không có biện pháp ngăn chặn kịp thời.

Một số dấu hiệu cảnh báo ở Việt Nam có thể kể đến:

• Học sinh chia sẻ, chỉnh sửa ảnh nhau bằng app AI rồi đăng lên mạng với bình luận mỉa mai.
• Xuất hiện clip deepfake ghép mặt thầy cô, bạn bè vào các video hài hước hoặc phản cảm.
• Các trào lưu “biến hình bằng AI” dễ bị lợi dụng để gán ghép hình ảnh bạn bè vào các nội dung tiêu cực.
• Thiếu kỹ năng số và kỹ năng phòng vệ cho học sinh: Nhiều em không nhận thức được rằng hành động “chỉ để vui” có thể gây tổn thương sâu sắc cho người khác.

Mối nguy "hiện hữu" từ việc bắt nạt học đường bằng AI. Ảnh: AI vẽ

Bắt nạt bằng AI có thể gây tổn thương tâm lý nặng nề (lo âu, trầm cảm, tự kỷ xã hội, thậm chí tự tử), cũng như tổn hại uy tín cá nhân, ảnh hưởng quá trình học tập và cơ hội phát triển của nạn nhân. Một bức ảnh deepfake lan truyền trên mạng có thể đi theo nạn nhân suốt đời, trong khi hành vi của kẻ bắt nạt đôi khi lại không bị trừng phạt thỏa đáng.

Bên cạnh đó, nếu không kiểm soát tốt, hiện tượng này có thể:

• Phá vỡ môi trường học đường an toàn, lành mạnh.
• Gây mất lòng tin vào công nghệ AI trong cộng đồng giáo dục.
• Làm chậm quá trình chuyển đổi số giáo dục vì tâm lý lo ngại rủi ro.

Cần làm gì để phòng chống bắt nạt học đường bằng AI ở Việt Nam?

Một là, hoàn thiện hành lang pháp lý: Việt Nam đã có Luật An ninh mạng 2018 và Luật Trẻ em 2016, nhưng chưa có quy định cụ thể về bắt nạt bằng công nghệ AI. Cần sớm cập nhật pháp luật, bổ sung chế tài xử phạt riêng cho hành vi sử dụng AI để tạo nội dung bắt nạt, xâm phạm danh dự, nhân phẩm.

Hai là, giáo dục nhận thức về đạo đức số và kỹ năng số: Bộ Giáo dục và Đào tạo cần tích hợp giáo dục đạo đức số (digital ethics) và kỹ năng tự vệ mạng vào chương trình chính khóa. Học sinh cần được trang bị:

• Kỹ năng phát hiện nội dung giả mạo.
• Kỹ năng bảo vệ thông tin cá nhân.
• Kỹ năng ứng xử khi bị bắt nạt mạng.

Các chiến dịch truyền thông như “Nói không với bắt nạt mạng”, “Cẩn trọng với AI” cũng nên được đẩy mạnh trong trường học.

Ba là, tăng cường vai trò của nhà trường và phụ huynh: Nhà trường cần thiết lập cơ chế báo cáo, phản hồi nhanh khi học sinh phát hiện bị xâm hại bằng AI. Phụ huynh cũng cần nâng cao hiểu biết công nghệ, giám sát và đồng hành cùng con cái trong môi trường số.

Bốn là, ứng dụng chính AI để chống lại bắt nạt AI: Ngoài những giải pháp nêu trên, AI cũng có thể trở thành công cụ hỗ trợ phát hiện deepfake, theo dõi hành vi bất thường, từ đó kịp thời can thiệp. Các startup Việt Nam có thể nghiên cứu các công cụ phát hiện deepfake trong giáo dục, hỗ trợ nhà trường bảo vệ học sinh.

Kết luận

AI là con dao hai lưỡi: nó có thể đưa giáo dục phát triển đến mức cá nhân hóa, nhưng cũng có thể gây tổn hại khôn lường nếu bị lạm dụng. Bắt nạt học đường bằng AI là thách thức mới, phức tạp, đòi hỏi sự phối hợp liên ngành giữa nhà nước, nhà trường, gia đình và xã hội. Việt Nam cần hành động ngay, trước khi những nạn nhân đầu tiên bị deepfake, bị tổn thương nặng nề mà không ai kịp can thiệp. Không có tiến bộ công nghệ nào đủ lớn để bù đắp cho những tổn thất đạo đức mà xã hội phải gánh chịu.

ThS. Võ Thị Mỹ Duyên - Học viện Kỹ năng VTALK

Tài liệu Tham khảo

1. Thorn. (2024, April 18). Deepfake nudes are a harmful reality for youth: New research from Thorn. Retrieved from https://www.thorn.org/blog/deepfake-nudes-are-a-harmful-reality-for-youth-new-research-from-thorn/

2. Tech Policy Press. (2024, May 7). Digital exploitation: Mapping the scope of child deepfake incidents in the US. Retrieved from https://www.techpolicy.press/digital-exploitation-mapping-the-scope-of-child-deepfake-incidents-in-the-us/

3. NEARI Press. (2024). AI deepfakes: Disturbing trend in school cyberbullying. Retrieved from https://www.neari.org/advocating-change/new-from-neari/ai-deepfakes-disturbing-trend-school-cyberbullying

4. Pew Research Center. (2022, December 15). Teens and cyberbullying 2022. Retrieved from https://www.pewresearch.org/internet/2022/12/15/teens-and-cyberbullying-2022/

5. Báo Chính phủ. (2024, May 17). Báo động bạo lực học đường trên mạng xã hội. Retrieved from https://baochinhphu.vn/bao-dong-bao-luc-hoc-duong-tren-mang-xa-hoi-102250173.htm

6. Huế Ngày Nay. (2024). Tình trạng bạo lực mạng ngày càng gia tăng. Retrieved from https://huengaynay.vn/ban-doc/ban-doc-viet/tinh-trang-bao-luc-mang-ngay-cang-gia-tang-128453.html