BBC调查后,TikTok删除了性化黑人女性的AI视频

TikTok在BBC曝光使用AI生成的黑人女性影响者引导用户访问色情内容网站后,已封禁20个账号。

这些账号是Instagram和TikTok上日益增长的趋势的一部分,被批评为种族主义、剥削性强且具有误导性,因为它们使用了种族刻板印象和语言。

BBC与独立AI出版物Riddance的研究人员Jeremy Carrasco和Angel Nulani合作,发现两平台上有数十个账号,展示高度性化的黑人女性数字角色或头像。

这些图片和视频由AI生成,但未标明,明显违反了平台的指南。

几乎所有这些账号都在Instagram上,约三分之一也在TikTok上。Instagram的母公司Meta告诉BBC正在调查,但未说明已采取任何措施。

这些头像通常穿着暴露的泳衣或其他暴露服装,身体比例夸张。

一些拥有极深的肤色,经数字处理后显得不自然。

账号名称中包含“black”、“noir”、“dark”和“ebony”等词汇。部分账号在帖子中评论白人男性,如“爱白人男”及“我需要一个白人在我生活中”。许多账号互相关注或点赞。

BBC与Riddance的分析师Jeremy Carrasco和Angel Nulani合作,已识别出60个此类账号,主要在Instagram上,链接到第三方付费色情内容网站。这些网站标记图片为AI生成,但Instagram账号未标明。

研究还发现,Instagram和TikTok上有更多类似的AI头像账号,没有链接到付费内容。

‘我很生气’

其中一个被TikTok关闭的账号——但在发布时仍在Instagram上运营——通过盗用真人视频引发了更大愤怒。

该账号以一个引人注目的AI生成角色为形象,成立几周内就积累了300万粉丝。

但它篡改并发布了来自马来西亚模特Riya Ulan的真实内容。

头像的脸部拥有极深的、人工制造的肤色,覆盖在Riya的身体上,模仿她的动作、服装和背景。

“我很生气,”Riya告诉BBC。“当然,我的所有视频都在那儿……但这不意味着你可以随意盗用、偷取并作为自己的内容发布。”

一些账号——包括盗用Riya内容的那个——否认它们是AI生成的。

其中一段被篡改的视频在TikTok上观看次数超过3500万,在Instagram上达1.73亿,是Riya原始视频的约47倍。

虽然与Riya内容完全匹配的三段视频并非色情,但使用相同数字角色的其他视频显示其穿着暴露或做出挑逗动作。该账号的链接链通向付费成人内容。

“我不确定我更担心他们用我的视频宣传他们的色情内容,还是人们真的相信那些内容,”她说。

她还表示,用户越来越难分辨内容是否真实,“人们不断相信这些AI模型”。

许多观众似乎将这些头像视为真实,尽管它们的特征不自然。在帖子或Instagram故事中,一些账号否认使用AI,包括那个盗用Riya内容的账号。

Riya表示,她多次向两个平台举报该账号,但当时内容未被删除。BBC联系TikTok后,该账号被封禁。

‘不真实的描绘’

“我认为这些账号具有种族主义色彩,因为它们的存在延续了黑人被剥削的漫长历史,”Nulani说。

“它们使用的漫画式、种族玩笑术语和对黑人女性的不切实际描绘,证明它们并不关心我们的安全或福祉,而是将我们作为网络色情产业的资本。”

Carrasco在其社交媒体上批评AI趋势和技术,他说“令人震惊的、充满种族主义的极端黑人形象的数量成为新趋势”。

他指出,“这种‘癖好’过去就存在,但AI赋予了它新的表现形式”。他解释说,AI使得去除图像和视频中的底色变得更容易,从而创造出不自然的深色肤色,以及以前需要动画或皮肤涂色才能实现的效果。

此外,他说,头像没有社会后果:“没有羞耻感……这是AI的独特利用。”

Houda Fonone / BOCHIC

内容创作者Houda Fonone表示,她担心线上反映的真实生活被人工图像取代。

这位摩洛哥模特和内容创作者倡导更真实的黑人女性形象,她说,这一趋势实际上是“抹杀”。

“光滑的头发、极瘦的身材和完美无瑕的肌肤……仿佛只有‘精致’的黑人美才被接受。”

她表示,这可能会强化刻板印象,而“我们的故事和真实经历被人工形象取代”。

BBC向Meta和TikTok提供了我们识别的账号示例,并请求他们回应。

两天后,TikTok发言人告诉BBC,公司已“删除违规内容并封禁相关账号”。

几天内,20个账号被标记为“封禁”。

“TikTok禁止未经许可使用个人的AI生成内容,我们对推广线下性服务的内容零容忍,”发言人说。

公司表示,禁止并删除有害或误导性的AI生成内容,并要求用户标注真实的AI生成内容。它还表示已对多段视频进行了正确标注。

Meta表示正在调查相关内容。

它表示希望用户知道他们看到的内容是否由AI制作,并已制定AI生成内容的标注政策。BBC追踪的九个Instagram账号似乎已不存在。

两平台都未详细说明对Riya最初举报的回应。

TikTok

人工智能

黑人女性

Instagram

黑人兴趣

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论