AI編集アプリの「何でも削除できる」広告が禁止される

9時間前

シェア保存

ダニエル・トーマス シニアテックレポーター

シェア保存

Getty Images

女性の衣服をデジタルで取り除けると示唆した動画・画像編集ツールの広告が、英国の広告規制当局によって禁止されました。

1月にYouTubeで見られたPixVideo - AI Video Makerの広告は、若い女性の「ビフォー」と「アフター」の画像を示し、前の画像には彼女の胴体に赤い落書きが重ねられ、後の画像では一部の肌が露出していました。

画像の下部には「何でも消せる」と書かれ、ハートの目の絵文字が添えられていました。

8人が広告基準局（ASA）に対し、この広告は女性を性的に対象化し、物化しているとし、無責任で攻撃的かつ有害だと苦情を申し立てました。

広告の画像が実在の人物なのか、AI生成なのかは明らかではなく、ASAはBBCに対し、その判断は調査の一部ではなかったと述べました。

規制当局は、PixVideoはユーザーがデジタル画像から衣服を取り除いて性的に露骨なコンテンツを作成させることを許可していないとしながらも、視聴者はそのような印象を持った可能性があると指摘しました。

「この広告は、視聴者がアプリを使って女性の衣服を取り除けると示唆していたため、女性の身体を無断でデジタルに改変・露出させることを容認していると考えました」と、同局は声明で述べています。

また、「無責任であり、有害な性別ステレオタイプを含み、深刻な不快感を引き起こす可能性が高い」と付け加えました。

PixVideoを所有するSaeta Techは、広告が不快感を与える可能性があることは理解しているとしつつも、その表現やメッセージの問題であり、製品の本来の用途ではないと述べました。

同社は、ヌードや性的に露骨なコンテンツの作成を禁止しており、そのような画像の生成を防ぐ自動検出・ブロックツールを導入していると説明しています。

同社はこの広告の再掲を控えることに同意し、内部調査を行うためにすべての広告を一時停止しています。

女性や少女の「脱衣」アプリが問題となったのは1月で、イーロン・マスクのチャットボットGrokが性的な画像を大量に投稿したことがきっかけでした。

世界的な反発を受け、マスクはGrokが違法な地域ではそのような画像を生成できないように制限しましたが、Xは依然として調査や訴訟の対象となっています。

英国政府は12月に、ユーザーが衣服を取り除くように見せかけた画像を編集・作成できるAIツールの作成・提供を違法とする方針を発表しました。

新たな違反行為は、性的に露骨なディープフェイクや親密な画像の乱用に関する既存の規則を強化するものです。

英国、ディープフェイクAI「ヌード化」アプリを禁止へ

TikTok、偽のBootsアカウントからのAIダイエット広告を削除

世界のトップテックニュースやトレンドを追う「Tech Decoded」ニュースレターに登録しましょう。英国以外の方はこちらから登録してください。

人工知能