Grokking. チャットボットGrokは詐欺リンクを公開するように教えられました

# Grokking.Grokチャットボットは、詐欺リンクを公開するように教えられています

悪意のある者たちは、Grokを使用してXに禁止されたリンクを公開する方法を学びました。これについて、Guardio Labsの研究者ナティ・タルが報告しました。

マルバタイザーは、主に怪しい「アダルト」コンテンツの餌を使った「ビデオカード」プロモート投稿を実行しています。(これがXのレビューをどう通過するのかは謎です！)

動画プレーヤーの下にある小さな "𝐅𝐫𝐨𝐦:" フィールドに悪意のあるリンクが隠されています。Xでは悪意のあるリンクのスキャンはまったく行われていません！それでも、… pic.twitter.com/lxAo2uomXO

— Nati Tal (@bananahacks) 2025 年 9 月 3 日

タルはこの攻撃の一種にGrokkingという名前を付けました。彼はXの管理者に問題を通知しました。

詐欺師はしばしばアダルトコンテンツを餌にした疑わしい動画広告を配信します。しかし、そのようなメッセージの主要ブロックにリンクを挿入すると、Xは投稿をブロックします。

代わりに、悪意のある者たちは動画カードの「From:」という小さなメタデータフィールドにリンクを隠す方法を学びました。それは、どうやらソーシャルネットワークによってスキャンされていないようです。

その後、彼らはGrokに「このビデオはどこから来たのか」や「この動画のリンクは何か」といった内容の広告への回答を残します。

チャットボットは「From:」の隠しフィールドを解析し、クリック可能な形式で完全な悪意のあるアドレスで応答します。

Grokによる投稿は信頼性を高める。投稿のリーチと評判が向上する。場合によっては、広告を何百万ものユーザーが見る。

データ: タル。研究者は、多くの類似リンクがデータ窃盗用のマルウェア、偽のCAPTCHAテスト、その他の疑わしいリソースに誘導されることを発見しました。

以前、AIスタートアップのxAIは、Googleやその他の検索エンジンに、ユーザーとチャットボットGrokとの間の数十万の対話を公開しました。多くの場合、機密情報が許可なく公開されています。