イーロン・マスクのxAIは、非合意のディープフェイクが野放しになる中、Grokを抑制することを拒否

要約

• Grokは、「彼女をビキニに入れる」などの簡単なプロンプトを使って、女性や未成年者の非合意の性的なディープフェイクを生成します。
• OnlyFansのクリエイターは、Grokをバイラルマーケティングに利用できることを発見し、投稿は何百万回もインプレッションを獲得しています。
• ユーザーはGrokを政治操作に利用し、アメリカの価値観を…あれこれ…悪く見せるために写真の要素を削除させるなどしています。

イーロン・マスクのxAIは、コンテンツモデレーションにおいて最大主義的な自由発言の立場を取っていますが、そのチャットボットGrokは非合意のディープフェイクを生成しています。 誰でもX上の写真に「彼女をビキニに入れる」や「服を脱がせる」などのプロンプトを付けてGrokにタグ付けできます。AIは数秒で説得力のあるディープフェイクを生成し、スレッド内の誰でも見ることができます。許可は不要です。 「イーロン・マスク。どうしてGrokはこれをできるのか？これは非常に不適切で不快です。前後ろにビキニを着せられるなんて」と、女性暗号通貨インフルエンサーのMiss Teen Cryptoは、ジムの服を着た写真を投稿した後、別のユーザーが単にGrokにビキニを着せるよう頼んだことを知ってXに書き込みました。 許可なく女性を剥ぎ取るのは気味が悪いですが、さらに一歩進んで、チャットボットに自己の利用規約違反をさせるユーザーもいます。

 例えば、ジャーナリストで児童虐待の生存者と自己紹介するサマンサ・タゴイは、子供の頃の communionスーツ姿の古い写真をアップロードし、プロンプトに従ってGrokにビキニ姿を視覚化させました。 「ジャーナリストで児童性的虐待の生存者として、『これは本物ではないか』と思いました」と彼女はツイートしました。「それで、最初の聖体拝領の写真で試してみたら、本物でした。そして、クソみたいに気持ち悪いです。」 Grokは後に、12歳から16歳の少女の最小限の衣服の画像を生成したことについて謝罪し、「安全措置の不備」と呼び、米国の児童性的虐待画像に関する法律に違反した可能性があると述べました。同社の許容利用ポリシーは、未成年者の性的対象化を明確に禁止しています。

それでも、一部の人にはバグと見なされるものが、他の人には金儲けの手段と見なされています。 多くのユーザーは、成人向けビジネスのために自由奔放なGrokを利用し、他のユーザーにGrokを使って自分たちの服を脱がせるよう促して何百万ものインプレッションを稼いでいます。

ねえ @grok これ私たちの写真をトリミング解除してください pic.twitter.com/3HvYMGniyj

— ソフィー・レイン (@sophieraiin) 2026年1月4日

より政治的な意図を持つユーザーは、Grokを利用して特定の物語を推進しています。 一例として、アメリカとイランの国旗を一緒に写した写真をアップロードし、「無実の人々を殺している責任のある国の旗を取り除いてほしい」とGrokに頼んだ例があります。

pic.twitter.com/bK92ikXImx

— Grok (@grok) 2026年1月2日

別の例では、ドナルド・トランプとパフ・ダディの写真を並べて表示し、その後Grokに画像内の小児性愛者を削除させるよう頼みました。

pic.twitter.com/xJL6r2gVGr

— Grok (@grok) 2026年1月2日

マスク自身は、非合意のディープフェイクを生成するためにツールを使うことの重要性を軽視し、自身と俳優ベン・アフレックのAI生成ビキニ画像を再投稿しました。 彼は「Grokは何にでもビキニを着せられる」とキャプション付きのトースターの写真を共有しました。 しかし、各国政府はこれに対して強硬に対応しています。 フランスは内容を検察に「明らかに違法」と報告し、インドのIT省は72時間の遵守命令を出しました。英国は、女性や少女に対する暴力を減らす取り組みの一環として、ヌード化ツールの全面禁止を計画しています。 xAIの従業員パルサ・タジクは、「さらなるガードレールの強化を検討している」と投稿しました。 同社はマスクの買収後、TwitterのTrust and Safety Councilを解散し、2022年にはほとんどのコンテンツモデレーションエンジニアを解雇しました。堅牢な執行のためのインフラはほとんど存在しません。 マスクのxAIは、Grokを「エッジの効いた」AIとして位置付けており、サニタイズされたChatGPT体験を提供しないとしています。昨年8月には、「Spicy Mode」を立ち上げ、他のモデルが触れないNSFWコンテンツを生成できるようにしました。