Story
メタのAI画像検出ツール、自社生成画像の切り抜きで半数以上を識別できず＝ロイター分析
メタ・プラットフォームズが新たに発表したAI画像検出ツールが、自社の画像生成モデルで作成された画像であっても、切り抜き加工後は半数以上をAI生成と識別できなかったことがロイターの分析で明らかになった。この結果は、特に選挙を控える年において、オンライン上のディープフェイクや偽情報の特定がいかに困難であるかを示唆している。
ロイターの分析で判明した限界
ロイターは、メタの画像生成モデル「Muse Image」で生成した40枚の画像を分析した。その結果、元の画像については検出ツールがすべてAI生成であると正しく識別した。
しかし、これらの画像を元のサイズの約3分の1から半分に切り抜いたところ、ツールは55%にあたる22枚の画像を識別できなかった。メタは、このツールが「Content Seal」と呼ばれる目に見えない電子透かし技術を用いており、切り抜きなどの一般的な編集後もAIが生成したことを証明できると説明していた。
メタの見解と技術的課題
ロイターの分析結果についてメタは、このツールがプレビュー版であることを指摘。電子透かしは一般的な編集に耐えるように設計されているものの、画像を大幅に切り抜いた場合は信号が失われる可能性があると述べた。
Ad専門家は、電子透かしに基づくシステムには限界があると指摘する。ニューヨーク州立大学バッファロー校のシウェイ・リュウ教授は、「切り抜き、サイズ変更、高圧縮、編集など、埋め込まれた信号を除去または弱めるような変更は、透かしの有効性を低下させる可能性がある」と述べている。グーグルやOpenAIといった競合他社も、自社の検出ツールが万全ではないことを認めている。
ディープフェイク対策と市場への影響
この問題は、AIによる偽情報やディープフェイクの拡散が社会的な懸念となる中で、テクノロジー企業が直面する課題を浮き彫りにしている。メタの監督委員会は今年3月、同社に対して「欺瞞的なAI生成コンテンツの拡散」に対処し、より強力な検出ツールに投資するよう勧告していた。
AI生成と検出の技術は、いたちごっこの様相を呈している。メタのようなプラットフォーム企業にとって、自社サービス上の偽情報を効果的に管理できるかどうかは、規制当局からの監視や企業の評判に直結する重要なリスク要因となる。検出技術の限界が露呈することは、規制強化の議論を呼び、投資家の信頼感に影響を与える可能性がある。