EU xếp AI tuyển dụng, đánh giá nhân sự vào nhóm rủi ro cao

Ứng dụng AI trong phân tích và giải quyết ùn tắc giao thông đô thị

Khảo sát Ricoh: 81% lãnh đạo thừa nhận công nghệ đi trước đào tạo

UTT triển khai lớp AI công vụ cho 319 học viên Hà Nội

Theo Quy định (EU) 2024/1689 về trí tuệ nhân tạo (AI Act), Liên minh châu Âu (EU) xác định các hệ thống AI phục vụ tuyển dụng, quản lý người lao động và đánh giá hiệu suất làm việc thuộc những lĩnh vực cần giám sát chặt chẽ do nguy cơ ảnh hưởng đến quyền cơ bản của con người.

Phụ lục III của AI Act quy định các hệ thống AI dùng để đăng quảng cáo tuyển dụng có mục tiêu, phân tích và sàng lọc hồ sơ ứng viên, đánh giá năng lực hoặc hỗ trợ quyết định tuyển dụng được phân loại vào nhóm rủi ro cao.

Quy định cũng bao gồm những hệ thống AI tham gia quyết định thăng chức, chấm dứt quan hệ lao động, phân công nhiệm vụ dựa trên đặc điểm cá nhân hoặc theo dõi hành vi và hiệu suất của nhân viên.

Phần mềm tuyển dụng AI phải kiểm soát nguy cơ phân biệt đối xử

Theo Ủy ban châu Âu (EC), việc sử dụng AI trong tuyển dụng có thể tái tạo những khuôn mẫu phân biệt đối xử tồn tại trong dữ liệu lịch sử, khiến một số nhóm ứng viên chịu bất lợi dù có năng lực phù hợp.

Các hệ thống thuộc nhóm rủi ro cao phải đáp ứng yêu cầu về quản trị rủi ro, chất lượng dữ liệu, tài liệu kỹ thuật, khả năng truy xuất kết quả, độ chính xác và cơ chế giám sát của con người.

Tuy nhiên, không phải mọi phần mềm có tích hợp AI đều mặc nhiên thuộc nhóm này. Điều 6 của AI Act cho phép ngoại lệ đối với một số hệ thống chỉ thực hiện tác vụ thủ tục hạn hẹp, không gây rủi ro đáng kể hoặc không ảnh hưởng thực chất đến kết quả quyết định, nếu đáp ứng điều kiện pháp lý.

Đối với AI tuyển dụng thuộc Phụ lục III, nhà cung cấp thông thường áp dụng quy trình đánh giá sự phù hợp dựa trên kiểm soát nội bộ, thay vì bắt buộc phải có tổ chức kiểm định độc lập.

Lưu nhật ký tối thiểu 6 tháng, mức phạt có thể tới 15 triệu euro

Điều 26 của AI Act yêu cầu đơn vị triển khai hệ thống AI rủi ro cao lưu giữ nhật ký hoạt động tự động trong ít nhất 6 tháng đối với dữ liệu thuộc quyền kiểm soát của mình, trừ trường hợp pháp luật có quy định khác.

Doanh nghiệp sử dụng hệ thống AI rủi ro cao tại nơi làm việc còn phải thông báo trước cho người lao động bị ảnh hưởng và đại diện của họ.

Theo Điều 99, một số hành vi vi phạm nghĩa vụ có thể bị phạt tối đa 15 triệu euro hoặc 3% doanh thu toàn cầu của năm tài chính trước đó, tùy mức nào cao hơn. Doanh nghiệp nhỏ và vừa được áp dụng cơ chế xác định trần phạt riêng.

Đáng chú ý, sau khi EU điều chỉnh lộ trình thực thi, các quy định đối với hệ thống AI rủi ro cao thuộc Phụ lục III sẽ áp dụng từ ngày 2/12/2027.

Đối với các doanh nghiệp công nghệ Việt Nam phát triển nền tảng tuyển dụng AI hướng tới thị trường châu Âu, quy định này đặt ra yêu cầu chuẩn bị từ sớm về quản trị dữ liệu, kiểm soát thiên kiến thuật toán, lưu vết quyết định và bảo đảm quyền giám sát của con người.