Story
メタのAI画像検出ツール、自社生成画像のトリミングで識別率が大幅低下＝ロイター分析
メタが新たに発表したAI画像検出ツールが、自社で生成した画像をトリミング（切り抜き）すると、その多くを識別できなくなることがロイターの分析で明らかになった。この結果は、偽情報対策として期待されるAIコンテンツ検証技術の信頼性に対する課題を示唆している。
ロイターの分析で判明した脆弱性
ロイターは、メタの最新画像生成モデル「Muse Image」で作成された40枚の画像を対象に検証を実施した。その結果、元のAI生成画像はすべて検出ツールで正しく識別されたものの、同じ画像を元のサイズの約3分の1から半分にトリミングしたところ、55%がAI生成であると識別できなかったという。
メタの検出ツールは、「Content Seal」と呼ばれる目に見えない電子透かし技術を利用している。この技術は、Muse Imageで生成されたすべての画像に埋め込まれ、利用者がメタのAIモデルによって作成されたかどうかを検証できる設計だとされている。
技術的限界と市場への影響
ロイターの分析結果に対し、メタは同ツールがプレビュー版であることを指摘。電子透かしは一般的な編集に耐えるように設計されているものの、大幅にトリミングされた場合は信号が失われる可能性があると説明した。この問題はメタに限ったことではなく、グーグルやOpenAIといった競合他社も、自社の検出ツールが画像改変に対して万能ではないことを認めている。
Ad重要な選挙が続く中、ディープフェイクなどの偽情報の拡散を阻止する能力は、プラットフォーム企業にとって規制上のリスクを左右する重要な要素だ。検出技術の信頼性が揺らぐことは、プラットフォームの信頼性に対する投資家の懸念につながる可能性がある。
専門家は「完璧ではない」と指摘
AI画像の科学捜査を専門とするニューヨーク州立大学バッファロー校のシウェイ・リュウ教授は、電子透かしベースの手法には限界があると指摘する。「透かしが損なわれていない場合は非常に効果的だが、トリミングや圧縮などの改変によって信号が除去・弱体化すれば、効果は低下する可能性がある」と述べている。
メタの監督委員会も3月、同社に対して「欺瞞的なAI生成コンテンツの拡散」に対処し、より強力な検出ツールに投資するよう勧告していた。専門家は、検出技術はまだ完璧ではないものの、偽情報との戦いにおいて重要な一歩であるとの見方も示している。