Story
メタのAI画像検出ツール、自社生成画像のトリミングで識別できず＝ロイター分析
メタ・プラットフォームズが新たにプレビュー公開したAI（人工知能）画像検出ツールが、自社の画像生成AI「Muse Image」で作成された画像をトリミング（切り抜き）すると、その多くをAI生成だと識別できなくなることが、ロイターの分析で明らかになった。この結果は、選挙イヤーを控えディープフェイク対策が急がれる中、一般的な画像編集に対するAI検出技術の脆弱性を示している。
ロイターの分析で判明した脆弱性
ロイターは「Muse Image」で生成された40枚の画像を分析した。その結果、メタの検出ツールは元画像をすべてAI生成と正しく識別したものの、同じ画像を元のサイズの3分の1から半分程度にトリミングしたところ、55%を識別できなかった。
メタはこのツールについて、AIが生成したすべての画像に埋め込まれる「Content Seal」と呼ばれる目に見えない電子透かしによって、トリミングなどの一般的な編集後も識別可能だと説明していた。ロイターの分析結果についてメタは、このツールがプレビュー版であることを指摘。電子透かしは一般的な編集に耐えるように設計されているものの、大幅にトリミングされた場合は信号が失われる可能性があると述べた。
技術的限界と市場への影響
この問題はメタ特有のものではなく、AI生成コンテンツの識別における業界全体の課題を浮き彫りにしている。グーグルやOpenAIといった競合他社も、自社の検出ツールが画像編集に対して万全ではないことを認めている。
AdAI画像のフォレンジックを研究するニューヨーク州立大学バッファロー校のシウェイ・リュウ教授は、電子透かしに基づく手法は「透かしが損なわれなければ非常に効果的」である一方、「トリミング、サイズ変更、強い圧縮、編集など、埋め込まれた信号を除去または弱めるような変更は、その有効性を低下させる可能性がある」と指摘する。投資家にとって、これはテクノロジー企業が誤情報や偽コンテンツの拡散に対して負うプラットフォームとしての責任と、それに関連する規制リスクが依然として高いことを意味する。
背景：高まるAIコンテンツへの懸念
メタの監督委員会は今年3月、同社のソーシャルメディアプラットフォーム上での「欺瞞的なAI生成コンテンツの拡散」に対処するため、より強力な検出ツールへの投資を同社に要請していた。電子透かし技術はAI生成コンテンツの未来に有望視されているが、万能ではない。
カリフォルニア大学バークレー校情報学大学院のサラ・バリントン氏は、「完全に水も漏らさぬ対策ではないかもしれないが、たとえ90%のケースしか捕捉できなくても、ゼロから比べれば大きな飛躍だ」と述べ、技術の漸進的な進歩の重要性を強調した。