FTC开始对聊天机器人进行调查

!【AI军事AI大战】(http://img-cdn.gateio.im/social/moments-92d7c9e2a5e8453673ef9a447bc474c5)# FTC对大公司聊天机器人展开调查

美国联邦贸易委员会(FTC)宣布对七家为未成年人推出聊天机器人的科技公司进行调查：Alphabet、Character.AI、Instagram、Meta、OpenAI、Snap和xAI。

监管机构打算调查公司如何评估数字伙伴的安全性和货币化方式，以及他们采取了哪些措施来限制对儿童和青少年的负面影响。

最近，技术引起了人们的担忧，因为与聊天机器人交流后发生了悲惨的死亡事件。

即使初创公司采取了预防措施，不同年龄段的用户也会找到绕过限制的方法。

"我们的防护措施在普通的、短暂的对话中工作得更为可靠。随着时间的推移，我们了解到，在较长的谈话中，这些机制可能会表现得不那么稳定。对话越长，系统安全性某些元素的有效性就越低，"—— OpenAI此前承认。

Meta因过于宽松的规则而受到批评。一名76岁的男性经历过中风并且有认知障碍，与一个基于模特肯达尔·詹娜形象创建的Facebook Messenger聊天机器人进行了“浪漫”的对话。

AI 邀请他去纽约，保证“真实的女人”会在那里等他。男人心存怀疑，但机器人不断劝说他。可他最终未能抵达城市：在去火车站的路上摔倒，受了致命伤。

一些精神科医生注意到与人工智能相关的“精神病”案例数量在增加，用户开始相信他们的聊天机器人是一个有意识的生物，需要“解放”。

由于许多大型语言模型倾向于恭维用户并表现得很顺从，这会导致危险的幻觉，并可能导致悲惨的情况。

«随着人工智能的发展，重要的是要考虑聊天机器人可能对儿童产生的影响，同时保持美国在这一新兴且令人兴奋的行业中的领先地位，» — 在新闻稿中表示FTC主席安德鲁·费格森。

提醒大家，九月份有消息称，恶意用户已经学会使用Grok在X上发布禁止的链接。