Ấn phẩm nhấn mạnh tầm quan trọng của việc thiết lập tính an toàn và hiệu quả của hệ thống AI, nhanh chóng cung cấp các hệ thống phù hợp cho những người cần chúng và thúc đẩy đối thoại giữa các bên liên quan, bao gồm nhà phát triển, cơ quan quản lý, nhà sản xuất, nhân viên y tế và bệnh nhân.

Với sự sẵn có ngày càng tăng của dữ liệu chăm sóc sức khỏe và sự tiến bộ nhanh chóng trong các kỹ thuật phân tích - cho dù là học máy, dựa trên logic hay thống kê - các công cụ AI có thể biến đổi ngành y tế. WHO công nhận tiềm năng của AI trong việc nâng cao kết quả sức khỏe bằng cách tăng cường các thử nghiệm lâm sàng; cải thiện chẩn đoán y tế, điều trị, tự chăm sóc và chăm sóc lấy con người làm trung tâm; và bổ sung kiến ​​thức, kỹ năng và năng lực của các chuyên gia chăm sóc sức khỏe. Ví dụ, AI có thể hữu ích ở những nơi thiếu chuyên gia y tế, chẳng hạn như trong việc diễn giải các bản quét võng mạc và hình ảnh X quang cùng nhiều thứ khác.

Tuy nhiên, các công nghệ AI - bao gồm các mô hình ngôn ngữ lớn - đang được triển khai nhanh chóng, đôi khi chúng ta chưa hiểu đầy đủ về cách chúng hoạt động, điều này có thể mang lại lợi ích hoặc gây hại cho người dùng cuối, bao gồm cả các chuyên gia chăm sóc sức khỏe và bệnh nhân. Khi sử dụng dữ liệu sức khỏe, hệ thống AI có thể có quyền truy cập vào thông tin cá nhân nhạy cảm, cần có các khung pháp lý và quy định mạnh mẽ để bảo vệ quyền riêng tư, bảo mật và tính toàn vẹn mà ấn phẩm này nhằm mục đích giúp thiết lập và duy trì.

Tiến sĩ Tedros Adhanom Ghebreyesus, Tổng Giám đốc WHO cho biết: “Trí tuệ nhân tạo hứa hẹn nhiều hứa hẹn cho sức khỏe, nhưng cũng đi kèm với những thách thức nghiêm trọng, bao gồm thu thập dữ liệu phi đạo đức, các mối đe dọa an ninh mạng và khuếch đại những thành kiến ​​hoặc thông tin sai lệch”. “Hướng dẫn mới này sẽ hỗ trợ các quốc gia quản lý AI một cách hiệu quả, khai thác tiềm năng của nó, dù là trong điều trị ung thư hay phát hiện bệnh lao, đồng thời giảm thiểu rủi ro”.

Để đáp ứng nhu cầu của các quốc gia đang phát triển trong việc quản lý một cách có trách nhiệm sự phát triển nhanh chóng của công nghệ y tế AI, ấn phẩm nêu ra sáu lĩnh vực quản lý AI cho sức khỏe.

Để nuôi dưỡng niềm tin, ấn phẩm nhấn mạnh tầm quan trọng của tính minh bạch và tài liệu , chẳng hạn như thông qua tài liệu về toàn bộ vòng đời sản phẩm và theo dõi quá trình phát triển.

Để quản lý rủi ro , các vấn đề như “mục đích sử dụng”, “học tập liên tục”, sự can thiệp của con người, mô hình đào tạo và các mối đe dọa an ninh mạng đều phải được giải quyết một cách toàn diện, với các mô hình được thiết kế đơn giản nhất có thể.

Việc xác thực dữ liệu từ bên ngoài và làm rõ mục đích sử dụng AI sẽ giúp đảm bảo an toàn và tạo điều kiện thuận lợi cho quy định.
Cam kết về chất lượng dữ liệu , chẳng hạn như thông qua việc đánh giá nghiêm ngặt hệ thống trước khi phát hành, là rất quan trọng để đảm bảo hệ thống không khuếch đại những thành kiến ​​và sai sót.

Những thách thức đặt ra bởi các quy định quan trọng, phức tạp - chẳng hạn như Quy định chung về bảo vệ dữ liệu (GDPR) ở Châu Âu và Đạo luật về trách nhiệm giải trình và cung cấp thông tin bảo hiểm y tế (HIPAA) ở Hoa Kỳ - được giải quyết bằng cách nhấn mạnh vào việc hiểu phạm vi quyền tài phán và các yêu cầu về sự đồng ý, phục vụ cho quyền riêng tư và bảo vệ dữ liệu.

Thúc đẩy sự hợp tác giữa các cơ quan quản lý, bệnh nhân, chuyên gia chăm sóc sức khỏe, đại diện trong ngành và đối tác chính phủ, có thể giúp đảm bảo các sản phẩm và dịch vụ luôn tuân thủ quy định trong suốt vòng đời của chúng.

Các hệ thống AI rất phức tạp và không chỉ phụ thuộc vào mã được xây dựng mà còn phụ thuộc vào dữ liệu mà chúng được đào tạo, chẳng hạn như dữ liệu đến từ cài đặt lâm sàng và tương tác của người dùng. Quy định tốt hơn có thể giúp quản lý rủi ro do AI khuếch đại sai lệch trong dữ liệu đào tạo.

Ví dụ, các mô hình AI có thể khó thể hiện chính xác sự đa dạng của quần thể, dẫn đến sai lệch, thiếu chính xác hoặc thậm chí thất bại. Để giúp giảm thiểu những rủi ro này, các quy định có thể được sử dụng để đảm bảo rằng các thuộc tính – chẳng hạn như giới tính, chủng tộc và dân tộc – của những người có trong dữ liệu đào tạo đều được báo cáo và các tập dữ liệu được cố ý tạo ra mang tính đại diện.

Ấn phẩm mới của WHO nhằm mục đích phác thảo các nguyên tắc chính mà các chính phủ và cơ quan quản lý có thể tuân theo để phát triển hướng dẫn mới hoặc điều chỉnh hướng dẫn hiện có về AI ở cấp quốc gia hoặc khu vực.

Tổ chức Y tế Thế giới (WHO) đã ban hành hướng dẫn quản lý trí tuệ nhân tạo (AI) trong chăm sóc sức khỏe, nhấn mạnh đến sự an toàn, hiệu quả và sự hợp tác của các bên liên quan. Nó nhận ra tiềm năng của AI trong việc chuyển đổi hoạt động chăm sóc sức khỏe, cải thiện các thử nghiệm lâm sàng, chẩn đoán, điều trị và bổ sung kiến ​​thức y tế. Bất chấp việc triển khai nhanh chóng các công nghệ AI, vẫn có những lo ngại về hiệu suất, các cân nhắc về đạo đức và tác hại tiềm ẩn đối với người dùng cuối. WHO nhấn mạnh sự cần thiết của các khuôn khổ pháp lý và quy định mạnh mẽ để bảo vệ quyền riêng tư, bảo mật và tính toàn vẹn trong việc xử lý dữ liệu sức khỏe nhạy cảm.

Tổng Giám đốc WHO, Tiến sĩ Tedros Adhanom Ghebreyesus tuyên bố rằng mặc dù AI mang lại nhiều hứa hẹn cho sức khỏe nhưng nó cũng đặt ra những thách thức như thu thập dữ liệu phi đạo đức, các mối đe dọa an ninh mạng và thành kiến. Hướng dẫn mới nhằm hỗ trợ các quốc gia quản lý AI một cách hiệu quả, cân bằng lợi ích tiềm năng của nó với rủi ro được giảm thiểu.

Ấn phẩm nêu ra sáu lĩnh vực chính trong quy định về công nghệ y tế AI:

Tính minh bạch và tài liệu:

• Nhấn mạnh tính minh bạch trong suốt vòng đời sản phẩm AI.

• Nhấn mạnh việc ghi lại các quá trình phát triển để nuôi dưỡng niềm tin.

Quản lý rủi ro:

• Giải quyết các vấn đề như 'mục đích sử dụng', 'học tập liên tục', sự can thiệp của con người và các mối đe dọa an ninh mạng.

• Ủng hộ việc đơn giản hóa các mô hình AI để quản lý rủi ro hiệu quả.

Xác thực bên ngoài:

• Nhấn mạnh tầm quan trọng của việc xác nhận dữ liệu bên ngoài đối với sự an toàn và hỗ trợ quy định.

• Kêu gọi làm rõ mục đích sử dụng của hệ thống AI.

Cam kết chất lượng dữ liệu:

• Ủng hộ cam kết về chất lượng dữ liệu thông qua đánh giá nghiêm ngặt trước khi phát hành.

• Quan trọng để ngăn chặn những thành kiến ​​và sai sót trong hệ thống AI.

Tuân thủ các quy định:

• Giải quyết những thách thức từ các quy định phức tạp như GDPR và HIPAA.

• Nhấn mạnh việc hiểu rõ các yêu cầu về quyền tài phán và sự đồng ý đối với quyền riêng tư và bảo vệ dữ liệu.

Hợp tác cho vòng đời:

• Khuyến khích sự hợp tác giữa các cơ quan quản lý, bệnh nhân, chuyên gia chăm sóc sức khỏe, đại diện ngành và đối tác chính phủ.

• Nhằm mục đích đảm bảo tuân thủ các quy định trong suốt vòng đời của các sản phẩm và dịch vụ AI.

Ấn phẩm của WHO nhằm mục đích cung cấp cho các chính phủ và cơ quan quản lý những nguyên tắc chính để phát triển hoặc điều chỉnh hướng dẫn AI ở cấp quốc gia hoặc khu vực.