Theo đó, Chính phủ Vương quốc Anh đã giới thiệu Bộ quy tắc thực hành mạng AI "đầu tiên trên thế giới" dành cho các công ty phát triển hệ thống AI.
 |
| Ảnh minh họa: Internet |
Bộ quy tắc này áp dụng cho các nhà phát triển, nhà điều hành hệ thống và tổ chức tham gia vào quá trình tạo lập, phát triển khai hoặc quản lý hệ thống AI . Các nhà cung cấp AI chỉ bán mô hình hoặc sự kiện sẽ kèm theo các hướng dẫn khác.
“Từ việc bảo vệ các hệ thống AI khỏi bị tấn công và phá hoại, cho đến đảm bảo chúng được phát triển và triển khai theo cách an toàn, Bộ quy tắc sẽ giúp các nhà phát triển xây dựng các sản phẩm AI an toàn, sáng tạo thúc đẩy tăng trưởng” Bộ Khoa học, Đổi mới và Công nghệ Anh (DSIT) cho biết.
Các khuyến nghị bao gồm triển khai các chương trình đào tạo bảo mật AI, xây dựng kế hoạch phục hồi, tiến hành đánh giá rủi ro, duy trì kiểm kê và trao đổi với người dùng cuối về cách dữ liệu của họ đang được sử dụng.
Bộ quy tắc nêu ra 13 nguyên tắc được thiết kế để giảm thiểu rủi ro như tấn công mạng do AI gây ra, lỗi hệ thống và lỗ hổng dữ liệu.
Điện tử và Ứng dụng tổng hợp giới thiệu đến bạn đọc 13 nguyên tắc thực hành mạng AI như sau:
| Nguyên tắc | Đối tượng áp dụng | Ví dụ khuyến nghị |
|---|---|---|
| Nâng cao nhận thức về các mối đe dọa và rủi ro bảo mật AI (Principle 1: Raise awareness of AI security threats and risks) | Người vận hành hệ thống, nhà phát triển và người lưu giữ dữ liệu | Đào tạo nhân viên về rủi ro bảo mật AI và cập nhật chương trình đào tạo khi các mối đe dọa mới xuất hiện. |
| Thiết kế hệ thống AI của bạn để đảm bảo tính bảo mật cũng như chức năng và hiệu suất (Principle 2: Design your AI system for security as well as functionality and performance) | Người vận hành và phát triển hệ thống | Đánh giá rủi ro bảo mật trước khi phát triển hệ thống AI và lập tài liệu về các chiến lược giảm thiểu. |
| Đánh giá các mối đe dọa và quản lý rủi ro cho hệ thống AI của bạn (Principle 3: Evaluate the threats and manage the risks to your AI system) | Người vận hành và phát triển hệ thống | Đánh giá thường xuyên các cuộc tấn công liên quan đến AI như đầu độc dữ liệu và quản lý rủi ro. |
| Cho phép con người chịu trách nhiệm đối với các hệ thống AI (Principle 4: Enable human responsibility for AI systems) | Người vận hành và phát triển hệ thống | Đảm bảo các quyết định của AI có thể giải thích được và người dùng hiểu rõ trách nhiệm của họ. |
| Xác định, theo dõi và bảo vệ tài sản của bạn (Principle 5: Identify, track and protect your assets) | Người vận hành hệ thống, nhà phát triển và người lưu giữ dữ liệu | Duy trì danh mục các thành phần AI và bảo mật dữ liệu nhạy cảm. |
| Bảo vệ cơ sở hạ tầng của bạn (Principle 6: Secure your infrastructure) | Người vận hành và phát triển hệ thống | Hạn chế quyền truy cập vào các mô hình AI và áp dụng các biện pháp kiểm soát bảo mật API |
| Bảo vệ chuỗi cung ứng của bạn (Principle 7: Secure your supply chain) | Người vận hành hệ thống, nhà phát triển và người lưu giữ dữ liệu | Tiến hành đánh giá rủi ro trước khi áp dụng các mô hình chưa được ghi chép đầy đủ hoặc chưa được bảo mật. |
| Ghi lại dữ liệu, mô hình và lời nhắc của bạn (Principle 8: Document your data, models and prompts) | Nhà phát triển | Phát hành hàm băm mật mã cho các thành phần mô hình được cung cấp cho các bên liên quan khác để họ có thể xác minh tính xác thực của chúng. |
| Tiến hành thử nghiệm và đánh giá phù hợp (Principle 9: Conduct appropriate testing and evaluation) | Người vận hành và phát triển hệ thống | Đảm bảo không thể thực hiện kỹ thuật đảo ngược các khía cạnh không công khai của mô hình hoặc dữ liệu đào tạo. |
| Giao tiếp và quy trình liên quan đến người dùng cuối và các thực thể bị ảnh hưởng (Principle 10: Communication and processes associated with End-users and Affected Entities) | Người vận hành và phát triển hệ thống | Truyền đạt cho người dùng cuối về vị trí và cách dữ liệu của họ sẽ được sử dụng, truy cập và lưu trữ. |
| Duy trì các bản cập nhật, bản vá và biện pháp giảm thiểu bảo mật thường xuyên (Principle 11: Maintain regular security updates, patches and mitigations) | Người vận hành và phát triển hệ thống | Cung cấp bản vá và cập nhật bảo mật và thông báo cho người vận hành hệ thống về các bản cập nhật. |
| Theo dõi hành vi của hệ thống của bạn (Principle 12: Monitor your system’s behaviour) | Người vận hành và phát triển hệ thống | Liên tục phân tích nhật ký hệ thống AI để tìm ra các bất thường và rủi ro bảo mật. |
| Đảm bảo xử lý dữ liệu và mô hình phù hợp (Principle 13: Ensure proper data and model disposal) | Người vận hành và phát triển hệ thống | Loại bỏ dữ liệu đào tạo hoặc mô hình một cách an toàn sau khi chuyển giao hoặc chia sẻ quyền sở hữu.
|
Nguồn: eur-lex.europa.eu
Trước đó, Vương quốc Anh đã đề ra Kế hoạch hành động về cơ hội AI, nêu rõ 50 cách để xây dựng ngành AI và đưa đất nước trở thành “quốc gia đi đầu thế giới”, trong đó nuôi dưỡng nhân tài AI là một phần quan trọng trong kế hoạch này.
Liên minh Châu Âu (EU) đã thiết lập các khung pháp lý nhắm mục tiêu xác định ranh giới giữa các ứng dụng AI được phép và bị cấm, trong bối cảnh công nghệ này phát triển với tốc độ nhanh chóng. Đạo luật Trí tuệ nhân tạo châu Âu (Đạo luật AI), quy định toàn diện đầu tiên trên thế giới về trí tuệ nhân tạo (AI) – chính thức có hiệu lực từ ngày 8/1/2024.
 Fortinet ra mắt Trợ lý bảo mật AI IoT thế hệ đầu tiên Cùng với đó Fortinet cũng giới thiệu các tính năng GenAI mới cho hoạt động mạng và bảo mật, giúp các tổ chức củng cố ... |
 Đạo luật AI - Hành lang pháp lý hoàn chỉnh để trí tuệ nhân tạo phát triển Nhằm đẩy nhanh việc thông qua nền tảng pháp lý đầu tiên của thế giới trong việc quản lý trí tuệ nhân tạo cũng là ... |
 EU chính thức áp dụng đạo luật AI: Các công ty công nghệ Hoa Kỳ ngay lập tức 'rung chuyển' Hôm qua (1/8), Luật trí tuệ nhân tạo mang tính bước ngoặt của Liên minh châu Âu đã chính thức có hiệu lực, đánh dấu ... |
