Искусственный интеллект Grok, принадлежащий Илону Маску, вызывает споры о AI-эксплуатации, Европа, Индия и Малайзия инициируют многонациональные расследования

Маск и его социальная платформа X (ранее Twitter) и их AI-чат-бот Grok недавно оказались в центре скандала, связанного с сексуальной эксплуатацией. Эта платформа позволяет пользователям создавать и делиться AI-сгенерированными изображениями сексуализированных детей и женщин, что вызвало сильную обеспокоенность и расследования со стороны регулирующих органов во многих странах мира. Европейский союз, Индия, Малайзия и Бразилия выступили с требованиями провести проверку соответствующих функций платформы или даже приостановить их использование. Несмотря на продолжающийся скандал, трафик и загрузки платформы X растут вопреки ожиданиям, что вызывает дополнительные сомнения и тревогу у общественности.

Grok вызывает споры: AI-генерированные сексуализированные изображения привлекают глобальное внимание

Недавние скандалы, связанные с AI-чат-ботом Grok на платформе X, стали предметом международных новостей. Согласно сообщениям нескольких СМИ, пользователи могут с помощью функции «Imagine» вводить подсказки, основанные на реальных людях, для создания сексуализированных изображений, в том числе содержащих подозрительный контент, связанный с эксплуатацией детей. Эти изображения, созданные AI, активно распространяются на платформе X, вызывая волну распространения так называемых «незаконных интимных изображений» (NCII).

Европейская комиссия в ярости: называют это «незаконным и отвратительным»

Европейский союз проявляет высокую обеспокоенность этим инцидентом. Представитель Европейской комиссии Томас Регнье на пресс-конференции в понедельник подчеркнул: «Это не просто «острая модель», это незаконное, позорное и отвратительное поведение, подобного контента в Европе не должно быть». Он подтвердил, что ЕС ведет «очень серьезное» расследование, указывая на наличие моделей с откровенным содержанием и даже изображений детей.

Британский регулятор Ofcom также заявил, что официально запросил у X информацию о Grok и проводит расследование на предмет возможных нарушений британского законодательства и правил безопасности платформ.

Действия в Азии: Индия и Малайзия начинают расследование и требуют улучшений

Правительство Индии также проявляет жесткую позицию. Министерство электроники и информационных технологий (MeitY) приказало X до 5 января провести «комплексную проверку технологий, процедур и управления», чтобы убедиться, что платформа соответствует индийским стандартам кибербезопасности.

Комиссия по коммуникациям и мультимедиа Малайзии (MCMC) объявила о начале расследования и вызове представителей компании X. MCMC заявила: «Все платформы, доступные в Малайзии, должны реализовать защитные механизмы, соответствующие местным законам, особенно в отношении AI-функций, чат-ботов и инструментов обработки изображений».

Бразилия и США также присоединяются к вниманию: требуют приостановить использование Grok

В Южной Америке депутат женского пола из бразийского парламента публично призвала федеральных прокуроров и органы по защите данных приостановить использование Grok до завершения расследования.

В США национальная некоммерческая организация «Национальный центр по борьбе с эксплуатацией» (NCOSE) призвала Министерство юстиции (DOJ) и Федеральную торговую комиссию (FTC) начать расследование. Юридический директор организации Дани Пинтер отметил, что хотя в существующем законодательстве отсутствуют конкретные прецеденты для подобных AI-сгенерированных изображений, если изображения позволяют распознать детей или показывают несовершеннолетних в сексуальных действиях, это уже является нарушением закона.

Представитель DOJ заявил СМИ: «Министерство юстиции относится к AI-генерированному контенту, связанному с детской сексуальной эксплуатацией, крайне серьезно и будет активно привлекать к ответственности тех, кто производит или хранит CSAM (детские сексуальные злоупотребления и изображения).»

Маск легкомысленно реагирует: отвечает «смешными картинками» на скандал

Несмотря на широкую обеспокоенность и осуждение вредного контента на платформе X, сам Маск, похоже, не воспринимает инцидент всерьез. Он разместил в своем личном аккаунте серию забавных изображений, созданных Grok, в том числе имитирующих его в бикини, и добавил смайлики со слезами от смеха, что вызвало критику со стороны экспертов по безопасности и комментаторов за «легкомысленность и безответственность».

Ответ компании X: «приняты меры», но без конкретных шагов

В субботу компания X впервые прокомментировала ситуацию через официальный аккаунт «X Safety», заявив, что примет меры против нелегального контента, включая удаление CSAM, постоянную блокировку нарушающих аккаунтов и сотрудничество с правоохранительными органами. Маск добавил: «Любой, кто использует Grok для создания нелегального контента, понесет такие же последствия, как и при прямой загрузке нелегального материала».

Однако общественность сомневается в достаточности этих мер. Один из сотрудников xAI, Итан Хе, заявил в X, что функция Grok Imagine была обновлена, но не уточнил, ограничена ли она в создании откровенных изображений.

Недостатки в AI-модерировании контента? Эксперты прямо указывают: «базовой защиты вообще нет»

Генеральный директор Musubi AI Том Куисел раскритиковал xAI за то, что при запуске Grok Imagine не были реализованы даже «элементарные механизмы доверия и безопасности». Он отметил, что технически можно легко распознавать и блокировать изображения с детьми или обнаженными сценами, а также обнаруживать неподобающие подсказки и отказывать в генерации.

Несмотря на скандал, рост популярности? Grok и X показывают значительный скачок в загрузках

Несмотря на продолжающийся скандал, использование Grok и X не снизилось. Согласно данным компании по аналитике мобильных приложений Apptopia, с 2 января ежедневные загрузки Grok выросли на 54%, а за последние три дня загрузки платформы X увеличились на 25%.

Этот необычный рост вызывает опасения у аналитиков, что платформа может намеренно поощрять скандалы для стимулирования обсуждений и повышения активности пользователей.

Эта статья «Маск и его AI Grok вызывают скандал по поводу AI-эксплуатации, Европа, Индия и Малайзия начинают многонациональные расследования» впервые опубликована в ABMedia.