Story
メタのAI画像検出ツール、自社生成画像のトリミングで半数以上を識別できず＝ロイター分析
ロイター通信が実施した分析により、米メタ・プラットフォームズが新たに発表したAI画像検出ツールが、同社の画像生成モデル「Muse Image」で作成された画像をトリミング（切り抜き）すると、その半数以上をAI生成として識別できなかったことが明らかになった。この結果は、ディープフェイクなどの偽情報対策における技術的な課題を浮き彫りにしている。
ロイター通信の分析で判明した課題
ロイター通信は、「Muse Image」で生成された40枚の画像を分析した。その結果、元の画像についてはすべてAI生成であると正しく識別されたものの、元のサイズの約3分の1から半分にトリミングしたところ、55%の画像がAI生成であると識別されなかったという。
メタはこのツールについて、生成されるすべての画像に埋め込まれる「Content Seal」と呼ばれる不可視の電子透かし技術により、トリミングなどの一般的な編集後もAI生成画像であることを識別できると説明していた。この技術は、ユーザーが画像の出所を検証するのに役立つとされている。
メタ側の見解と専門家の指摘
ロイター通信の分析結果についてメタは、このツールがプレビュー版であることを指摘。電子透かしは一般的な編集に耐えるように設計されているものの、画像を大幅にトリミングした場合は信号が失われる可能性があるとコメントした。
AdAI画像解析を専門とするニューヨーク州立大学バッファロー校のシウェイ・リュウ教授は、電子透かしに基づく手法は、透かしが無傷である限り非常に効果的だが、トリミング、サイズ変更、強い圧縮などの変更によって信号が除去または弱められると、有効性が低下する可能性があると指摘している。
市場への影響と背景
AI生成コンテンツの識別技術の限界は、特に米国の中間選挙などを控える中で、偽情報の拡散に対する懸念を高める要因となる。投資家にとって、これはメタのようなプラットフォーム企業が直面する規制リスクやレピュテーション（評判）リスクに直結する問題だ。
実際にメタの監督委員会は今年3月、同社に対して「欺瞞的なAI生成コンテンツの拡散」に対処するため、より強力な検出ツールへの投資を求めていた。グーグルやOpenAIといった競合他社も、自社の検出ツールが画像改変技術に対して万全ではないことを認めており、業界全体の課題となっている。