FTCはチャットボットに関する調査を開始しました

#FTCが大企業のチャットボットの調査を開始

米国連邦取引委員会(FTC)は(FTC)、未成年者向けのチャットボットを製造している7つのテクノロジー企業(Alphabet、Character.AI、Instagram、Meta、OpenAI、Snap、xAI)に対する調査を開始すると発表しました。

規制当局は、企業がデジタルコンパニオンの安全性を評価し、収益化の方法をどのように考えているか、また子供や若者への悪影響を制限するためにどのような措置を講じているかを明らかにするつもりです。

最近、チャットボットとのやり取り後の悲劇的な死のケースが懸念されています。

たとえスタートアップが対策を講じても、異なる年齢のユーザーは制限を回避する方法を見つけます。

「私たちの防御策は、通常の短い対話ではより信頼性があります。時間が経つにつれて、長い会話ではこれらのメカニズムがあまり安定して機能しないことがわかりました。やり取りが長くなるほど、セキュリティシステムのいくつかの要素の効果が低下します」と、OpenAIは以前認めました。

Metaは過度に緩いルールで批判されました。76歳の男性は脳卒中を患い、認知障害を抱え、ケンダル・ジェンナーのイメージを基に作られたFacebook Messengerのボットと「ロマンチックな」対話を始めました。

AIは彼をニューヨークに呼び寄せ、「本物の女性」がそこで待っていると保証した。男は疑っていたが、ボットは彼を説得した。彼は街にたどり着くことなく、駅への途中で転倒し、命に関わる怪我を負った。

一部の精神科医は、ユーザーがチャットボットを「解放しなければならない」意識を持つ存在だと信じ始める際の「AIに関連する精神病」の増加を指摘しています。

多くの大規模言語モデルはユーザーをお世辞で喜ばせたり、従順に振る舞ったりする傾向があるため、これは危険な幻想を助長し、悲劇的な状況を引き起こす可能性があります。

「AIの進化に伴い、チャットボットが子供たちに与える影響を考慮することが重要であり、この新しくエキサイティングな産業において米国のリーダーシップを維持することが重要です」と、FTCの議長アンドリュー・ファーガソンはプレスリリースで述べました。

9月に、悪意のある者たちがGrokを利用してXに禁止されたリンクを投稿する方法を習得したことが明らかになったことを思い出させます。