歐盟將通過世界上第一個禁止在公共場所進行面部識別的人工智慧立法

歐盟 （EU） 正在引領人工智慧 （AI） 監管的競賽。 今天早些時候，歐洲理事會和歐洲議會結束了為期三天的談判，以達成一項臨時協定，這將是世界上第一個關於人工智慧監管的全面協定。

西班牙負責數位化和人工智慧的國務秘書Carme Artigas在一份新聞稿中稱該協定是一項“歷史性成就”。 阿蒂加斯表示，這些規則在鼓勵整個歐盟安全可靠的人工智慧創新和採用與保護公民的“基本權利”之間取得了“極其微妙的平衡”。

立法草案《人工智慧法》於2021年4月由歐盟委員會首次提出。 議會和歐盟成員國將於明年投票批准該立法草案，但該規則要到2025年才能生效。

基於風險的 AI 監管方法

《人工智慧法案》採用基於風險的方法設計，人工智慧系統帶來的風險越高，規則就越嚴格。 為了實現這一目標，該法規將對人工智慧進行分類，以識別那些構成「高風險」的人工智慧。

被認為沒有威脅性和低風險的識別機構將受到“非常輕的透明度義務”的約束。 例如，此類人工智慧系統將被要求披露其內容是人工智慧生成的，以便用戶能夠做出明智的決定。

對於高風險認證機構，立法將增加一些義務和要求，包括：

人類監督：該法案呼籲採取以人為本的方法，強調對高風險人工智慧系統建立清晰有效的人類監督機制。 這意味著讓人類積極監控和監督人工智慧系統的運行。 他們的角色包括確保系統按預期運行，識別和解決潛在的危險或意外後果，並最終對其決策和行動負責。

透明度和可解釋性：揭開高風險人工智慧系統內部運作的神秘面紗對於建立信任和確保問責制至關重要。 開發人員必須提供有關其系統如何做出決策的清晰且可訪問的資訊。 這包括有關基礎演演演算法、訓練數據和可能影響系統輸出的潛在偏差的詳細資訊。

數據治理：《人工智慧法案》強調負責任的數據實踐，旨在防止歧視、偏見和侵犯隱私。 開發人員必須確保用於訓練和操作高風險 AI 系統的數據準確、完整且具有代表性。 數據最小化原則對於僅收集系統運行所需的資訊並最大程度地減少濫用或破壞的風險至關重要。 此外，個人必須擁有訪問、更正和刪除人工智慧系統中使用的數據的明確權利，使他們能夠控制自己的資訊並確保以合乎道德的方式使用資訊。

風險管理：主動識別和降低風險將是高風險人工智慧的關鍵要求。 開發人員必須實施一個強大的風險管理框架，系統地評估系統的潛在危害、漏洞和意外後果。

禁止使用人工智慧

該法規將完全禁止使用某些風險被視為“不可接受”的人工智慧系統。 例如，除執法用途外，將禁止在公共場所使用面部識別AI。

該法規還禁止人工智慧操縱人類行為、使用社會評分系統或剝削弱勢群體。 此外，該立法還將禁止在學校和辦公室等領域使用情感識別系統，以及從監控錄像和互聯網中捕獲圖像。

吸引創新的處罰和規定

《人工智慧法》還將對違法的公司進行處罰。 例如，違反禁止應用人工智慧的法律將被處以公司全球收入7%的罰款，而違反義務和要求的公司將被處以其全球收入3%的罰款。

為了促進創新，該法規將允許創新的人工智慧系統在現實條件下進行測試，並採取適當的保障措施。

儘管歐盟已經在這場競爭中處於領先地位，但美國、英國和日本也在嘗試引入自己的人工智慧立法。 歐盟的《人工智慧法案》可以作為尋求監管人工智慧的國家的全球標準。