Каліфорнія посилює правила укладання контрактів із ШІ у міру загострення конфлікту з адміністрацією Трампа

Коротко

• Каліфорнія наказує запровадити посилені запобіжники для компаній зі ШІ, які прагнуть отримувати державні контракти штату.
• Крок відбувається на тлі того, як адміністрація Трампа просуває національні стандарти для ШІ.
• Представники штату розроблять правила закупівель, які розглядатимуть проблеми, зокрема упередженість, зловживання та ризики для громадянських прав.

Конфлікт між Вашингтоном і штатами щодо політики в галузі штучного інтелекту загострився в понеділок після того, як губернатор Каліфорнії Гевін Ньюсом підписав розпорядження, яке вимагає від компаній зі ШІ посилених запобіжників для отримання контрактів штату.

Згідно з розпорядженням, компанії, що продають системи ШІ державним установам Каліфорнії, мають довести наявність політик, які запобігають зловживанням і захищають приватність, безпеку та громадянські права.

«Каліфорнія завжди була колискою інновацій. Але ми також розуміємо зворотний бік: у невмілих руках інновації можуть бути використані для шкоди — так, що люди опиняються під ризиком», — сказав Ньюсом у заяві. «Каліфорнія лідирує в ШІ, і ми використаємо всі інструменти, які маємо, щоб гарантувати: компанії захищають права людей, а не експлуатують їх або ставлять під загрозу. Поки інші в Вашингтоні розробляють політику та створюють контракти в тіні зловживань, ми зосереджені на тому, щоб зробити це правильно».

Розпорядження Ньюсома доручає Агентству з питань урядових операцій штату розробити стандарти закупівель для постачальників ШІ, які враховуватимуть проблеми, зокрема незаконне генерування контенту, упередженість моделей, а також ризики для громадянських прав і свободи слова. Також розпорядження доручає Департаменту технологій Каліфорнії розробити рекомендації щодо водяних знаків для зображень, згенерованих ШІ, та для зміненого відео.



Це розпорядження ставить Каліфорнію в конфлікт із прагненням адміністрації Дональда Трампа встановити національні стандарти для ШІ та обмежити регулювання на рівні штатів. На початку цього місяця адміністрація Трампа оприлюднила національну рамкову політику в сфері штучного інтелекту, закликаючи Конгрес встановити федеральні стандарти та зменшити те, що посадовці описують як «калейдоскоп» регулювань ШІ на рівні штатів.

Кевін Фразір, старший запрошений науковий співробітник Інституту Като, сказав, що суперечка відображає тривалий конституційний баланс між повноваженнями штатів і федеральної влади.

«Кожен технологічний прорив — від пароплава до надінтелекту — ставить ключові питання про те, як розподілити регуляторні повноваження між штатами та федеральним урядом», — сказав Фразір Decrypt. «Конституція дає чітку відповідь: федеральний уряд має очолювати питання економічної та національної безпеки, а також ті, що потребують уніфікованої відповіді; штати можуть реалізовувати свої традиційні поліцейські повноваження в межах своїх кордонів».

Фразір назвав розпорядження Ньюсома «яскравим прикладом федералізму в дії» і сказав, що компанії, які не погоджуються з вимогами Каліфорнії, можуть не продавати штат.

«Тим часом Конгрес усе ще має можливість задати умови щодо темпу та напрямку амбіцій країни в галузі ШІ», — додав він.

Квінн Анекс-Райс, старший аналітик політики в Центрі демократії та технологій, сказав, що розмір Каліфорнії та її купівельна спроможність означають: вона може впливати на те, як компанії проєктують і тестують системи ШІ, якщо хочуть продавати їх штату.

«Державні контракти для компаній дуже цінні», — сказав Анекс-Райс Decrypt. «Це значна частина бізнесу для розробників технологій загалом і дедалі ширший напрям бізнесу саме для розробників ШІ».

Він сказав, що правила закупівель — це один із найефективніших способів, якими уряди можуть формувати те, як системи ШІ розробляють і оцінюють.

«Процес закупівель — це справді дуже важливе місце, на яке варто звернути увагу», — сказав Анекс-Райс. «Бо це, по суті, найважливіше місце, де держава може встановити гарантії та очікування щодо того, як постачальники розробляють свої інструменти».

Ньюсом виринув як національна демократична фігура і потенційний кандидат у президенти на 2028 рік. Нещодавнє опитування Politico–UC Berkeley Citrin Center показало, що він випереджає колишнього віцепрезидента Камалу Гарріс на 14 пунктів серед ймовірних виборців у демократичних праймеріз у Каліфорнії.

Суперечка щодо політики регулювання ШІ ставить його напряму в конфлікт із адміністрацією Трампа, оскільки посилюються дебати про те, хто має встановлювати правила, що регулюють цю технологію. Торік улітку адміністрація Трампа наказала федеральним агенціям уникати контрактів із моделями, які вона назвала «прогресивним ШІ» (“woke AI”), і закуповувати системи, які демонструють ідеологічну нейтральність.

Втім, Анекс-Райс сказав, що питання регулювання ШІ є більшим, ніж політика.

«Це справді не має бути політичним питанням», — сказав Анекс-Райс. «Це насправді про те, щоб переконатися, що гроші платників податків не марнуються, і що інструменти, які наш уряд купує, працюють».

Щоденна розсилка Daily Debrief

Щоранку починайте з головних новин прямо зараз, а також із авторських матеріалів, подкасту, відео та іншого.

Ваш Email

Отримати це!

Отримати це!