Story
MetaのAI画像検出ツール、自社生成のトリミング画像で認識失敗＝ロイター分析
Summary
ロイターの分析によると、メタが新たに発表したAI画像検出ツールは、自社製のAIが生成した画像をトリミング（切り抜き）すると、その半数以上を認識できないことが判明した。AI生成コンテンツの検証における技術的課題が浮き彫りになった。
ロイターが実施した分析によると、メタ・プラットフォームズが新たに発表したAI画像検出ツールは、自社が開発した画像生成AI「Muse Image」によって作成された画像をトリミング（切り抜き）すると、その一部をAI生成であると認識できないことが判明した。この結果は、特に重要な選挙が続く年にオンライン上のディープフェイクを識別する上での技術的な課題を浮き彫りにしている。
ロイターによる検証の詳細
ロイターは、メタの画像生成モデル「Muse Image」で生成された40枚の画像を分析した。その結果、元のAI生成画像はすべて検出ツールによって正しく識別された。
しかし、これらの画像を元のサイズの約3分の1から半分にトリミングしたところ、55%がAI生成であると認識されなかったという。メタの検出ツールは、「Content Seal」と呼ばれる目に見えない電子透かしシステムを利用しており、Muse Imageが生成するすべての画像に埋め込まれる設計となっている。
メタの見解と業界の課題
ロイターの分析結果について、メタは同ツールがプレビュー版であることを指摘。電子透かしは一般的な編集には耐えられるように設計されているものの、大幅にトリミングされた場合は信号が失われる可能性があると説明した。
AdAI生成画像の検出は業界全体の課題であり、グーグルやオープンAIといった競合他社も、自社の検出ツールが画像編集技術に対して万能ではないことを認めている。偽情報の拡散防止が急務となる中、コンテンツの真正性を検証する技術の限界が示された形だ。
専門家の指摘と今後の展望
AI画像の科学捜査を研究する専門家は、電子透かしベースのシステムには限界があると指摘する。ニューヨーク州立大学バッファロー校のシウェイ・リュウ教授は、「トリミングや圧縮、編集など信号を弱めるような変更が加えられると、その有効性は低下する可能性がある」と述べている。
これに先立ち、メタの監督委員会は3月、同社のプラットフォーム上で「欺瞞的なAI生成コンテンツが急増している」として、より強力な検出ツールへの投資を同社に勧告していた。今回の分析結果は、こうした要請に応えることの難しさを示唆している。