FTC開始對聊天機器人進行調查

!【AI軍事AI大戰】(http://img-cdn.gateio.im/social/moments-92d7c9e2a5e8453673ef9a447bc474c5)# FTC對大公司聊天機器人展開調查

美國聯邦貿易委員會(FTC)宣布對七家爲未成年人推出聊天機器人的科技公司進行調查：Alphabet、Character.AI、Instagram、Meta、OpenAI、Snap和xAI。

監管機構打算調查公司如何評估數字夥伴的安全性和貨幣化方式，以及他們採取了哪些措施來限制對兒童和青少年的負面影響。

最近，技術引起了人們的擔憂，因爲與聊天機器人交流後發生了悲慘的死亡事件。

即使初創公司採取了預防措施，不同年齡段的用戶也會找到繞過限制的方法。

"我們的防護措施在普通的、短暫的對話中工作得更爲可靠。隨着時間的推移，我們了解到，在較長的談話中，這些機制可能會表現得不那麼穩定。對話越長，系統安全性某些元素的有效性就越低，"—— OpenAI此前承認。

Meta因過於寬松的規則而受到批評。一名76歲的男性經歷過中風並且有認知障礙，與一個基於模特肯達爾·詹娜形象創建的Facebook Messenger聊天機器人進行了“浪漫”的對話。

AI 邀請他去紐約，保證“真實的女人”會在那裏等他。男人心存懷疑，但機器人不斷勸說他。可他最終未能抵達城市：在去火車站的路上摔倒，受了致命傷。

一些精神科醫生注意到與人工智能相關的“精神病”案例數量在增加，用戶開始相信他們的聊天機器人是一個有意識的生物，需要“解放”。

由於許多大型語言模型傾向於恭維用戶並表現得很順從，這會導致危險的幻覺，並可能導致悲慘的情況。

«隨着人工智能的發展，重要的是要考慮聊天機器人可能對兒童產生的影響，同時保持美國在這一新興且令人興奮的行業中的領先地位，» — 在新聞稿中表示FTC主席安德魯·費格森。

提醒大家，九月份有消息稱，惡意用戶已經學會使用Grok在X上發布禁止的連結。