Евросоюз примет первый в мире закон об искусственном интеллекте, запрещающий распознавание лиц в общественных местах

Европейский союз (ЕС) лидирует в гонке за регулирование искусственного интеллекта (ИИ). Ранее сегодня Европейский совет и Европейский парламент завершили трехдневные переговоры по достижению промежуточного соглашения, которое станет первым в мире всеобъемлющим соглашением о регулировании ИИ.

Государственный секретарь Испании по цифровизации и искусственному интеллекту Карме Артигас в пресс-релизе назвала соглашение «историческим достижением». Артигас сказал, что правила устанавливают «чрезвычайно тонкий баланс» между поощрением безопасных и надежных инноваций в области искусственного интеллекта и их внедрения в ЕС и защитой «фундаментальных прав» граждан.

Законопроект под названием «Закон об искусственном интеллекте» был впервые внесен Еврокомиссией в апреле 2021 года. Парламент и страны-члены ЕС проголосуют за одобрение законопроекта в следующем году, но правило вступит в силу только в 2025 году.

Риск-ориентированный подход к регулированию ИИ

Закон об ИИ разработан с учетом подхода, основанного на оценке рисков, при котором чем выше риск, связанный с системой ИИ, тем строже правила. Для достижения этой цели регламент будет классифицировать ИИ, чтобы определить те, которые представляют «высокий риск».

На ИИ, которые считаются не представляющими угрозы и малоопасными, будет распространяться «очень легкое обязательство по обеспечению прозрачности». Например, такие ИИ-системы должны будут раскрывать информацию о том, что их контент создан ИИ, чтобы пользователи могли принимать обоснованные решения.

Для органов по аккредитации высокого риска законодательство добавит ряд обязанностей и требований, в том числе:

Человеческий надзор: Законопроект призывает к подходу, ориентированному на человека, с акцентом на четкие и эффективные механизмы контроля со стороны человека за системами ИИ с высоким риском. Это означает привлечение людей к активному мониторингу и надзору за работой систем ИИ. В их обязанности входит обеспечение того, чтобы системы функционировали должным образом, выявление и устранение потенциальных опасностей или непредвиденных последствий и, в конечном счете, принятие ответственности за свои решения и действия.

Прозрачность и объяснимость: Демистификация внутренней работы систем ИИ с высоким уровнем риска имеет решающее значение для укрепления доверия и обеспечения подотчетности. Разработчики должны предоставлять четкую и доступную информацию о том, как их системы принимают решения. Сюда входят сведения о базовом алгоритме, обучающие данные и потенциальные искажения, которые могут повлиять на выходные данные системы.

Управление данными: Закон об искусственном интеллекте подчеркивает ответственные методы работы с данными и направлен на предотвращение дискриминации, предвзятости и нарушений конфиденциальности. Разработчики должны гарантировать, что данные, используемые для обучения и эксплуатации систем ИИ с высоким уровнем риска, являются точными, полными и репрезентативными. Принцип минимизации данных имеет решающее значение для сбора только той информации, которая необходима для функционирования системы, и для минимизации риска неправильного использования или уничтожения. Кроме того, физические лица должны иметь четкое право на доступ, исправление и удаление данных, используемых в ИИ-системах, что позволяет им контролировать свою информацию и обеспечивать ее этичное использование.

Управление рисками: Упреждающее выявление и снижение рисков станет ключевым требованием для ИИ с высоким уровнем риска. Разработчики должны внедрить надежную систему управления рисками, которая систематически оценивает систему на предмет потенциального вреда, уязвимостей и непредвиденных последствий.

Некоторые виды использования искусственного интеллекта запрещены

Постановление полностью запретит использование определенных систем ИИ, риски которых считаются «неприемлемыми». Например, использование ИИ для распознавания лиц в общественных местах будет запрещено, за исключением использования правоохранительными органами.

Постановление также запрещает ИИ манипулировать поведением людей, использовать системы социального скоринга или эксплуатировать уязвимые группы. Кроме того, законодательство также запретит использование систем распознавания эмоций в таких местах, как школы и офисы, а также захват изображений с камер видеонаблюдения и в Интернете.

Штрафы и правила за привлечение инноваций

Закон об искусственном интеллекте также наложит штрафы на компании, которые нарушают закон. Например, нарушение закона, запрещающего применение ИИ, приведет к штрафу в размере 7% от глобальной выручки компании, в то время как компания, нарушившая обязательства и требования, будет оштрафована на 3% от ее глобальной выручки.

В целях поощрения инноваций регулирование позволит тестировать инновационные системы ИИ в реальных условиях с соответствующими гарантиями.

Несмотря на то, что Европейский союз уже лидирует в этом соревновании, США, Великобритания и Япония также пытаются ввести собственное законодательство в области ИИ. Закон Европейского союза об искусственном интеллекте может служить глобальным стандартом для стран, стремящихся регулировать ИИ.