Видео с сексуализированными чернокожими женщинами, созданные с помощью ИИ, удалены из TikTok после расследования BBC

45 минут назад

ПоделитьсяСохранить

Шарихан Аль-АкхрасBBC News Arabic

ПоделитьсяСохранить

Рия Улан (слева) / Instagram (справа)

Рия Улан (слева) заметила, что её видео было изменено и показано как цифровая персона, созданная с помощью ИИ (справа)

TikTok заблокировал 20 аккаунтов после того, как BBC выявила использование влиятельных чернокожих женщин, созданных с помощью ИИ, для привлечения пользователей на сайты с порнографическим содержанием.

Это часть растущей тенденции аккаунтов в Instagram и TikTok, которые критикуются за расизм, эксплуатацию и вводящую в заблуждение информацию из-за использования расовых стереотипов и языка.

BBC и исследователи из независимого издания Riddance обнаружили десятки аккаунтов на обеих платформах, в которых представлены очень сексуализированные чернокожие цифровые персонажи или аватары.

Изображения и видео создавались с помощью ИИ, но не помечались как таковые, что, по-видимому, нарушает правила платформ.

Почти все аккаунты были на Instagram, около трети также имели версии на TikTok. Материнская компания Instagram, Meta, сообщила BBC, что проводит расследование, но не уточнила, были ли приняты какие-либо меры.

Аватары часто изображаются в откровенной купальнике или другой вызывающей одежде и имеют преувеличенные формы тела.

Некоторые имеют очень тёмный оттенок кожи, который был цифрово изменён, придавая им искусственный вид.

Названия аккаунтов включают такие слова, как “black”, “noir”, “dark” и “ebony”. Несколько аккаунтов содержат комментарии о белых мужчинах, например, “любит белых мужчин” и “почему мне нужен белый парень в жизни”. Многие аккаунты подписываются друг на друга или ставят лайки.

BBC, совместно с аналитиками Джереми Карраско и Ангел Нулани из Riddance, выявила 60 таких аккаунтов, в основном на Instagram, которые содержали ссылки или цепочки ссылок на платный порнографический контент на сторонних сайтах. Эти сайты называли изображения созданными с помощью ИИ, а аккаунты в Instagram — нет.

Исследование также выявило гораздо больше аккаунтов как на Instagram, так и на TikTok с похожими аватарами, созданными с помощью ИИ, которые не связаны с платным контентом.

‘Я была зла’

Один из аккаунтов, заблокированных TikTok — хотя он всё ещё работает на Instagram на момент публикации — вызвал дополнительное возмущение, украдя видео у реальных людей.

Он представлен как аккаунт яркого персонажа, созданного с помощью ИИ, и за несколько недель после создания в декабре набрал три миллиона подписчиков.

Но он изменял и публиковал видео реального создателя контента, модели из Малайзии Рии Улан.

Лицо аватара, с очень тёмным, искусственно созданным оттенком кожи, наложено на тело Рии, а её движения, одежда и фон воспроизведены.

“Я была зла”, — сказала Рия BBC. “Конечно, мои видео есть в сети… Это не значит, что вы можете просто взять их, украсть и опубликовать как свои собственные.”

Instagram

Некоторые аккаунты — включая тот, что украл контент Рии — отвергают предположения, что они созданы с помощью ИИ

Одно из изменённых видео набрало более 35 миллионов просмотров в TikTok и 173 миллиона — в Instagram, что примерно в 47 раз превышает просмотры оригинального поста Рии.

Хотя три видео, явно совпадающих с контентом Рии, не являются сексуальными, другие видео на ИИ-аккаунте с использованием того же цифрового персонажа показывают его в вызывающей одежде или с провокационными действиями. Цепочка ссылок с аккаунта ведёт к платному взрослому контенту.

“Я не уверена, больше ли меня беспокоит то, что они используют мои видео для продвижения своего откровенного контента, или то, что люди действительно в это верят”, — говорит она.

Становится всё сложнее для пользователей определить, реальный ли контент, и “люди продолжают попадаться на эти ИИ-модели”, добавляет она.

Многие зрители, несмотря на нереалистичные черты, воспринимают аватаров как реальных. В постах или историях в Instagram некоторые аккаунты отрицают использование ИИ, в том числе тот, что украл контент Рии.

Рия говорит, что она неоднократно сообщала о проблеме обеим платформам, но на тот момент контент не был удалён. TikTok заблокировал его после обращения BBC за комментариями.

‘Нереалистичные изображения’

“Я считаю, что эти аккаунты — расистские, потому что их существование продолжает долгую историю эксплуатации чернокожих людей”, — говорит Нулани, одна из исследователей.

“Их использование карикатур, терминов, связанных с расовой игрой, и нереалистичных изображений черных женщин доказывает, что их заботит не наша безопасность или благополучие, а возможность капитализировать нас как часть онлайн-порнографической машины”, — добавляет она.

Карраско, критикующий тренды и техники ИИ в своих соцсетях, говорит: “Новая тенденция — это количество бесстыдных, расистских изображений очень черных людей”.

Хотя “этот фетиш” существовал и раньше, ИИ “даёт ему новую силу”, — объясняет он. Он говорит, что ИИ облегчает устранение подтекстов в изображениях и видео для создания тёмных оттенков кожи, которые не являются естественными, а также для создания эффектов, ранее требовавших анимации или окраски кожи.

Также, по его словам, за аватарами нет социальных последствий: “Нет стыда… это уникально использует ИИ.”

Худа Фононе / BOCHIC

Создатель контента Худа Фононе говорит, что боится, что онлайн-отражения реального опыта заменяются искусственными изображениями

Худа Фононе, марокканская модель и создатель контента, выступающая за более аутентичное изображение чернокожих женщин, говорит, что тенденция — это “стирание”.

“Шёлковые волосы, очень тонкие тела и невероятно безупречная кожа… кажется, что черная красота может быть принята только в ‘утончённом’ виде.”

Она считает, что это рискует закрепить стереотипы, в то время как “наши истории и реальные жизненные опыты заменяются искусственным образом”.

BBC направила Meta и TikTok примеры выявленных аккаунтов и запросила их комментарии.

Через два дня представитель TikTok сообщил BBC, что компания “удалила контент и заблокировала аккаунты, нарушающие наши правила”.

За несколько дней 20 аккаунтов были помечены как “заблокированные” в приложении.

“TikTok запрещает использование ИИ для создания контента о людях без их согласия, у нас нулёвая терпимость к контенту, пропагандирующему сексуальные услуги вне платформы”, — заявил представитель.

Компания заявила, что запрещает и удаляет вредоносный или вводящий в заблуждение ИИ-контент и требует от пользователей маркировать реалистичный ИИ-контент. Также она отметила, что правильно пометила ряд видео.

Meta сообщила, что проводит расследование по выявленным материалам.

Она хочет, чтобы пользователи знали, когда они смотрят посты, созданные с помощью ИИ, и что у неё есть политика по маркировке ИИ-контента. Девять аккаунтов в Instagram, отслеженных BBC, по всей видимости, больше не существуют.

Ни одна из платформ не предоставила деталей о реакции на первоначальные жалобы Рии.