Story
メタ社のAI画像検出ツール、自社生成画像の切り抜きを半数以上で識別できず＝ロイター分析
Summary
ロイター通信の分析によると、メタ・プラットフォームズが新たに発表したAI画像検出ツールは、自社で生成した画像を切り抜くとその半数以上をAI生成と識別できなくなることが判明した。これはAIによる偽情報対策の難しさを示唆している。
メタ・プラットフォームズが新たに発表したAI画像検出ツールが、自社で生成したAI画像を切り抜いた場合にその多くを識別できなくなることが、ロイター通信の分析によって明らかになった。この結果は、選挙などを控える中で懸念されるディープフェイク（AIによる精巧な偽情報）対策の技術的な課題を浮き彫りにしている。
ロイター通信の分析で判明した限界
ロイター通信は、メタ社が画像生成モデル「Muse Image」と同時にプレビュー版として公開した検出ツールを検証した。分析はMuse Imageで生成された40枚の画像を対象に行われた。
- 元の画像については、ツールは40枚すべてをAI生成であると正しく識別した。
- しかし、これらの画像を元のサイズの約3分の1から半分に切り抜いた後、再度検証したところ、55%（22枚）をAI生成として識別できなかった。
メタ社は「Content Seal」と呼ばれる目に見えない電子透かし技術を画像に埋め込んでおり、切り抜きなどの一般的な編集後も検出可能であると説明していた。この分析結果は、その技術の限界を示唆するものだ。
メタ社の見解と専門家の指摘
Adロイター通信の分析結果について、メタ社は、このツールがまだプレビュー版であることを指摘した。同社によると、電子透かしは一般的な編集に耐えるように設計されているものの、大幅に切り抜かれた場合は信号が失われる可能性があるという。
AI画像解析を研究するニューヨーク州立大学バッファロー校のシウェイ・リュウ教授は、電子透かしに基づくシステムには限界があると指摘。「切り抜き、サイズ変更、強い圧縮などの変更が加えられると、埋め込まれた信号が弱まり、有効性が低下する可能性がある」と述べている。
市場への影響と背景
AI生成コンテンツの識別は、偽情報の拡散を防ぐ上でテクノロジー企業にとって重要な課題となっている。特に選挙期間中には、ディープフェイクが世論に与える影響が懸念される。グーグルやOpenAIといった競合他社も、自社の検出ツールが完璧ではないことを認めている。
メタ社の独立監督委員会は3月、同社プラットフォーム上での「欺瞞的なAI生成コンテンツの拡散」に対処するため、より強力な検出ツールへの投資を求めていた。今回の分析結果は、信頼性の高い検出技術の開発が依然として困難であることを示しており、プラットフォームが直面する規制リスクや評判リスクを投資家に意識させるものとなった。