Liên minh châu Âu sẽ thông qua luật AI đầu tiên trên thế giới cấm nhận dạng khuôn mặt ở những nơi công cộng

Liên minh châu Âu (EU) đang dẫn đầu cuộc đua về quy định trí tuệ nhân tạo (AI). Đầu ngày hôm nay, Hội đồng châu Âu và Nghị viện châu Âu đã kết thúc ba ngày đàm phán để đạt được thỏa thuận tạm thời sẽ là thỏa thuận toàn diện đầu tiên trên thế giới về quy định AI.

Thư ký nhà nước Tây Ban Nha về số hóa và trí tuệ nhân tạo, Carme Artigas, đã gọi thỏa thuận này là một “thành tựu lịch sử” trong một thông cáo báo chí. Artigas cho biết các quy tắc này tạo ra một “sự cân bằng cực kỳ tinh tế” giữa việc khuyến khích đổi mới và áp dụng AI an toàn và bảo mật trên toàn EU và bảo vệ “các quyền cơ bản” của công dân.

Dự thảo luật, Đạo luật Trí tuệ nhân tạo, lần đầu tiên được Ủy ban châu Âu giới thiệu vào tháng 4/2021. Nghị viện và các quốc gia thành viên EU sẽ bỏ phiếu thông qua dự thảo luật vào năm tới, nhưng quy tắc này sẽ không có hiệu lực cho đến năm 2025.

**Phương pháp tiếp cận quy định AI dựa trên rủi ro **

Đạo luật AI được thiết kế với cách tiếp cận dựa trên rủi ro, trong đó rủi ro do hệ thống AI gây ra càng cao thì các quy tắc càng chặt chẽ. Để đạt được điều này, quy định sẽ phân loại AI để xác định những người có “nguy cơ cao”.

Các AI được coi là không đe dọa và rủi ro thấp sẽ phải tuân theo “nghĩa vụ minh bạch rất nhẹ”. Ví dụ: các hệ thống AI như vậy sẽ được yêu cầu tiết lộ rằng nội dung của chúng là do AI tạo ra để người dùng có thể đưa ra quyết định sáng suốt.

Đối với các cơ quan công nhận có rủi ro cao, pháp luật sẽ bổ sung một số nghĩa vụ và yêu cầu, bao gồm:

Giám sát con người: Dự luật kêu gọi cách tiếp cận lấy con người làm trung tâm, nhấn mạnh các cơ chế giám sát con người rõ ràng và hiệu quả đối với các hệ thống AI có rủi ro cao. Điều này có nghĩa là thu hút con người chủ động theo dõi và giám sát hoạt động của các hệ thống AI. Vai trò của họ bao gồm đảm bảo rằng các hệ thống đang hoạt động như dự định, xác định và giải quyết các mối nguy tiềm ẩn hoặc hậu quả không lường trước và cuối cùng chịu trách nhiệm về các quyết định và hành động của họ.

Tính minh bạch và khả năng giải thích: Làm sáng tỏ hoạt động bên trong của các hệ thống AI có rủi ro cao là rất quan trọng để xây dựng lòng tin và đảm bảo trách nhiệm giải trình. Các nhà phát triển phải cung cấp thông tin rõ ràng và dễ tiếp cận về cách hệ thống của họ đưa ra quyết định. Điều này bao gồm chi tiết về thuật toán cơ bản, dữ liệu đào tạo và các sai lệch tiềm ẩn có thể ảnh hưởng đến đầu ra của hệ thống.

Quản trị dữ liệu: Đạo luật Trí tuệ nhân tạo nhấn mạnh các hoạt động dữ liệu có trách nhiệm và nhằm mục đích ngăn chặn sự phân biệt đối xử, thiên vị và vi phạm quyền riêng tư. Các nhà phát triển phải đảm bảo rằng dữ liệu được sử dụng để đào tạo và vận hành các hệ thống AI có rủi ro cao là chính xác, đầy đủ và mang tính đại diện. Nguyên tắc giảm thiểu dữ liệu là rất quan trọng để chỉ thu thập thông tin cần thiết cho hoạt động của hệ thống và để giảm thiểu nguy cơ lạm dụng hoặc phá hủy. Ngoài ra, các cá nhân phải có quyền rõ ràng để truy cập, sửa chữa và xóa dữ liệu được sử dụng trong các hệ thống AI, cho phép họ kiểm soát thông tin của mình và đảm bảo rằng nó được sử dụng một cách có đạo đức.

Quản lý rủi ro: Chủ động xác định và giảm thiểu rủi ro sẽ là yêu cầu chính đối với AI có rủi ro cao. Các nhà phát triển phải thực hiện một khuôn khổ quản lý rủi ro mạnh mẽ để đánh giá một cách có hệ thống về tác hại tiềm ẩn, lỗ hổng và hậu quả không lường trước được.

** Một số sử dụng trí tuệ nhân tạo bị cấm **

Quy định sẽ cấm hoàn toàn việc sử dụng một số hệ thống AI nhất định có rủi ro được coi là “không thể chấp nhận được”. Ví dụ: việc sử dụng AI nhận dạng khuôn mặt ở các khu vực công cộng sẽ bị cấm, ngoại trừ việc sử dụng thực thi pháp luật.

Quy định cũng cấm AI thao túng hành vi của con người, sử dụng hệ thống tính điểm xã hội hoặc khai thác các nhóm dễ bị tổn thương. Ngoài ra, luật cũng sẽ cấm sử dụng các hệ thống nhận dạng cảm xúc trong các lĩnh vực như trường học và văn phòng, cũng như chụp ảnh từ cảnh quay giám sát và internet.

Hình phạt và quy định thu hút đổi mới sáng tạo

Luật AI cũng sẽ áp dụng hình phạt đối với các công ty vi phạm pháp luật. Ví dụ: vi phạm luật cấm áp dụng AI sẽ bị phạt 7% doanh thu toàn cầu của công ty, trong khi một công ty vi phạm nghĩa vụ và yêu cầu sẽ bị phạt 3% doanh thu toàn cầu.

Để thúc đẩy sự đổi mới, quy định sẽ cho phép các hệ thống AI sáng tạo được thử nghiệm trong điều kiện thực tế với các biện pháp bảo vệ thích hợp.

Mặc dù Liên minh châu Âu đã dẫn đầu trong cuộc cạnh tranh này, Hoa Kỳ, Vương quốc Anh và Nhật Bản cũng đang cố gắng đưa ra luật AI của riêng họ. Đạo luật AI của Liên minh châu Âu có thể đóng vai trò là tiêu chuẩn toàn cầu cho các quốc gia đang tìm cách điều chỉnh AI.