執筆者：クレイ、Deep潮 TechFlow先週、かなり幻想的な出来事があった。アメリカの宅配大手2社のCEO、ひとりは資産27億ドル、もうひとりは世界最大のライドシェアプラットフォームを運営しているが、土曜の深夜に寝ずにネット上で自己弁護の小論を書いて証明した。発端はRedditの匿名投稿だった。投稿者は自称、大手宅配プラットフォームのバックエンドエンジニアで、酔っぱらって公共WiFiを使い図書館から暴露したという内容。内容はおおよそ：「会社はライドシェアドライバーの状況を分析し、『絶望スコア』を付けている。金欠のドライバーほど良い注文を受け取れない。いわゆる優先配送は偽りで、普通の注文も遅延される。『ドライバー福利費』は一銭も支払われず、すべて議会へのロビー活動に使われている…」投稿の最後は非常にリアルに見せかけていて、「酔っていて怒っているから暴露する」と締めくくっている。まるで「大企業がアルゴリズムでドライバーを搾取している内部告発者」の役を演じているかのようだ。投稿から3日で87,000いいねを獲得し、Redditのトップページに上がった。さらにスクリーンショットをXに投稿し、3,600万回の露出を得た。アメリカの宅配市場には数社の大手しかなく、投稿は名指ししなかったが、誰のことか皆推測していた。DoorDashのCEO、Tony Xuは動揺し、「これは我々の仕業ではない。誰がこんなことをしたら解雇する」とツイートした。UberのCOOも反応し、「ネットで見たことを信用するな」とコメント。DoorDashは公式サイトに五点の声明を出し、暴露内容を一つ一つ反論した。これら2社の時価総額は800億ドル超だが、匿名投稿一つで夜通しPR対応を余儀なくされた。そして、その投稿はAIによって作られたことが判明した。それを暴いたのは海外のテックメディアPlatformerの記者、Casey Newtonだった。彼は投稿者に連絡を取り、相手はすぐに18ページの「内部技術文書」を送ってきた。タイトルも学術的で、「AllocNet-T: High-Dimensional Temporal Supply State Modeling」（高次元時系列供給状態モデル）とあった。翻訳すると「高次元時系列供給状態モデル」だ。各ページには「機密」の透かしが入り、署名はUberの「マーケットダイナミクスグループ・行動経済学部」となっている。内容は、Redditの暴露投稿でドライバーに付けられた「絶望スコア」のモデルの計算方法を解説したもの。構造図や数学式、データフロー図も含まれている。（偽の論文のスクリーンショットだが、一見本物のように見える）Newtonは、この文書に最初は騙されたという。誰が18ページの技術文書を偽造して記者を釣るために作るだろうか？しかし、今は違う。この18ページの文書は、AIを使えば数分で生成できる。同時に、暴露者は記者に自分のUber社員証のモザイク入り写真も渡し、自分が実際に働いていることを示した。好奇心から、Newton記者はGoogleのAI生成画像判定ツール「Gemini」に社員証を投入して検証したところ、結果はAI生成と出た。判別できたのは、Googleが自社AIの出力に「SynthID」という隠し透かしを埋め込んでいるため。肉眼では見えないが、機械は検出できる。さらに驚くべきことに、その社員証には「Uber Eats」（ウーバーイーツ）のロゴが印刷されていた。Uberの広報は確認し、「Uber Eatsの社員証は存在しない。すべての社員証はUberのロゴだけだ」と答えた。明らかに、この虚偽の「内部告発者」は誰を攻撃しているのかも理解していなかった。記者がLinkedInなどのSNSアカウント情報を求めたとき、暴露者はアカウントを削除して逃走した。実は、我々が話したいのはAIによる偽造の新しさではない。もっと重要なのは、なぜ何千万人もの人々が匿名の暴露投稿を信じるのか、ということだ。2020年、DoorDashはチップを底値にしてドライバーに支払う仕組みを巡り訴訟を起こされ、1675万ドルの賠償金を支払った。Uberは「Greyball」という規制回避ツールを使ったこともある。これらは実話だ。潜在意識の中で、「プラットフォームは良いものではない」という認識が自然に湧く。だから、「宅配プラットフォームのアルゴリズムがドライバーを搾取している」と誰かが言えば、多くの人は「本当だ」と思ってしまう。フェイクニュースが広まるのは、それがすでに人々の心に信じられているものに似ているからだ。AIは、その「似ている」コストをほぼゼロにまで下げている。この話にはもう一つ細かい点がある。騙しを見破るのはGoogleの水印検出技術だ。GoogleはAIを作り、AI検出ツールも作っている。しかし、SynthIDはGoogle自社のAIだけを検出できる。今回の成功は、偽造者がちょうどGeminiを使ったからだ。別のモデルを使えば、こうは行かなかったかもしれない。だから、この事件は技術の勝利というよりも、「相手の低レベルなミス」によるものだ。以前、ロイターの調査では、59%の人がネット上の情報の真偽を見分けられないと答えている。外売り会社のCEOの釈明ツイートは何十万人も見たが、どれだけの人がそれをPRや嘘だと信じただろうか。あの偽の暴露投稿はすでに削除されたが、コメント欄にはまだ外売りプラットフォームを非難する声が残っている。嘘は半周して世界を駆け巡り、真実はまだ靴紐を結んでいる。もしこの投稿がUberではなく、MeituanやEle.meについてのものであったらどうだろう？「絶望スコア」や「アルゴリズムで騎手を搾取」や「福利費一銭も支払わない」などの指摘は、最初に見たとき、あなたの第一反応は感情的な共感ではないだろうか？『宅配ドライバー、システムに閉じ込められて』という記事も覚えているだろう。だから、問題はAIが偽造できるかどうかではなく、嘘がすでにみんなの心に信じられているものに似ているとき、真偽はもはや重要ではない、ということだ。そのアカウント削除して逃げた人は、何を狙っているのか、わからない。ただ、彼は一つの感情の出口を見つけて、そこにAI生成の燃料を注ぎ込んだだけだ。火は燃え広がった。燃料が本物の木材か偽物の木材か、誰も気にしない。童話では、ピノキオは嘘をつくと鼻が伸びると言う。AIには鼻はない。
人民は悪い資本家を必要としている、AIはデリバリーの噂を作り出した
執筆者：クレイ、Deep潮 TechFlow
先週、かなり幻想的な出来事があった。
アメリカの宅配大手2社のCEO、ひとりは資産27億ドル、もうひとりは世界最大のライドシェアプラットフォームを運営しているが、土曜の深夜に寝ずにネット上で自己弁護の小論を書いて証明した。
発端はRedditの匿名投稿だった。
投稿者は自称、大手宅配プラットフォームのバックエンドエンジニアで、酔っぱらって公共WiFiを使い図書館から暴露したという内容。
内容はおおよそ：
「会社はライドシェアドライバーの状況を分析し、『絶望スコア』を付けている。金欠のドライバーほど良い注文を受け取れない。いわゆる優先配送は偽りで、普通の注文も遅延される。『ドライバー福利費』は一銭も支払われず、すべて議会へのロビー活動に使われている…」
投稿の最後は非常にリアルに見せかけていて、「酔っていて怒っているから暴露する」と締めくくっている。
まるで「大企業がアルゴリズムでドライバーを搾取している内部告発者」の役を演じているかのようだ。
投稿から3日で87,000いいねを獲得し、Redditのトップページに上がった。さらにスクリーンショットをXに投稿し、3,600万回の露出を得た。
アメリカの宅配市場には数社の大手しかなく、投稿は名指ししなかったが、誰のことか皆推測していた。
DoorDashのCEO、Tony Xuは動揺し、「これは我々の仕業ではない。誰がこんなことをしたら解雇する」とツイートした。UberのCOOも反応し、「ネットで見たことを信用するな」とコメント。
DoorDashは公式サイトに五点の声明を出し、暴露内容を一つ一つ反論した。これら2社の時価総額は800億ドル超だが、匿名投稿一つで夜通しPR対応を余儀なくされた。
そして、その投稿はAIによって作られたことが判明した。
それを暴いたのは海外のテックメディアPlatformerの記者、Casey Newtonだった。
彼は投稿者に連絡を取り、相手はすぐに18ページの「内部技術文書」を送ってきた。タイトルも学術的で、「AllocNet-T: High-Dimensional Temporal Supply State Modeling」（高次元時系列供給状態モデル）とあった。
翻訳すると「高次元時系列供給状態モデル」だ。各ページには「機密」の透かしが入り、署名はUberの「マーケットダイナミクスグループ・行動経済学部」となっている。
内容は、Redditの暴露投稿でドライバーに付けられた「絶望スコア」のモデルの計算方法を解説したもの。構造図や数学式、データフロー図も含まれている。
（偽の論文のスクリーンショットだが、一見本物のように見える）
Newtonは、この文書に最初は騙されたという。誰が18ページの技術文書を偽造して記者を釣るために作るだろうか？
しかし、今は違う。
この18ページの文書は、AIを使えば数分で生成できる。
同時に、暴露者は記者に自分のUber社員証のモザイク入り写真も渡し、自分が実際に働いていることを示した。
好奇心から、Newton記者はGoogleのAI生成画像判定ツール「Gemini」に社員証を投入して検証したところ、結果はAI生成と出た。
判別できたのは、Googleが自社AIの出力に「SynthID」という隠し透かしを埋め込んでいるため。肉眼では見えないが、機械は検出できる。
さらに驚くべきことに、その社員証には「Uber Eats」（ウーバーイーツ）のロゴが印刷されていた。
Uberの広報は確認し、「Uber Eatsの社員証は存在しない。すべての社員証はUberのロゴだけだ」と答えた。
明らかに、この虚偽の「内部告発者」は誰を攻撃しているのかも理解していなかった。記者がLinkedInなどのSNSアカウント情報を求めたとき、
暴露者はアカウントを削除して逃走した。
実は、我々が話したいのはAIによる偽造の新しさではない。
もっと重要なのは、なぜ何千万人もの人々が匿名の暴露投稿を信じるのか、ということだ。
2020年、DoorDashはチップを底値にしてドライバーに支払う仕組みを巡り訴訟を起こされ、1675万ドルの賠償金を支払った。Uberは「Greyball」という規制回避ツールを使ったこともある。これらは実話だ。
潜在意識の中で、「プラットフォームは良いものではない」という認識が自然に湧く。
だから、「宅配プラットフォームのアルゴリズムがドライバーを搾取している」と誰かが言えば、多くの人は「本当だ」と思ってしまう。
フェイクニュースが広まるのは、それがすでに人々の心に信じられているものに似ているからだ。
AIは、その「似ている」コストをほぼゼロにまで下げている。
この話にはもう一つ細かい点がある。
騙しを見破るのはGoogleの水印検出技術だ。GoogleはAIを作り、AI検出ツールも作っている。
しかし、SynthIDはGoogle自社のAIだけを検出できる。今回の成功は、偽造者がちょうどGeminiを使ったからだ。別のモデルを使えば、こうは行かなかったかもしれない。
だから、この事件は技術の勝利というよりも、
「相手の低レベルなミス」によるものだ。
以前、ロイターの調査では、59%の人がネット上の情報の真偽を見分けられないと答えている。
外売り会社のCEOの釈明ツイートは何十万人も見たが、どれだけの人がそれをPRや嘘だと信じただろうか。あの偽の暴露投稿はすでに削除されたが、コメント欄にはまだ外売りプラットフォームを非難する声が残っている。
嘘は半周して世界を駆け巡り、真実はまだ靴紐を結んでいる。
もしこの投稿がUberではなく、MeituanやEle.meについてのものであったらどうだろう？
「絶望スコア」や「アルゴリズムで騎手を搾取」や「福利費一銭も支払わない」などの指摘は、
最初に見たとき、あなたの第一反応は感情的な共感ではないだろうか？
『宅配ドライバー、システムに閉じ込められて』という記事も覚えているだろう。
だから、問題はAIが偽造できるかどうかではなく、
嘘がすでにみんなの心に信じられているものに似ているとき、
真偽はもはや重要ではない、ということだ。
そのアカウント削除して逃げた人は、何を狙っているのか、わからない。
ただ、彼は一つの感情の出口を見つけて、そこにAI生成の燃料を注ぎ込んだだけだ。
火は燃え広がった。燃料が本物の木材か偽物の木材か、誰も気にしない。
童話では、ピノキオは嘘をつくと鼻が伸びると言う。
AIには鼻はない。