メタのAI画像検出ツール、自社生成のトリミング画像認識に失敗＝ロイター分析

ロイターが実施した分析によると、メタ・プラットフォームズが新たに発表したAI画像検出ツールは、同社の画像生成AIが作成した画像であっても、トリミング（切り抜き）されると正しく認識できない場合があることが明らかになった。この結果は、選挙の年を迎え、AIが生成する偽情報への懸念が高まる中、その検出技術の限界を示唆している。

分析で判明した脆弱性

この分析は、メタが今週発表した画像生成モデル「Muse Image」と同時にプレビュー公開された検出ツールを対象に行われた。ロイターは「Muse Image」で生成した40枚の画像をテストした。

• 元の画像: 検出ツールは40枚すべてをAI生成であると正しく認識した。
• トリミング後の画像: 元のサイズの約3分の1から半分にトリミングしたところ、そのうちの55%についてAI生成であると認識できなかった。

メタによると、このツールは「Content Seal」と呼ばれる目に見えない電子透かし技術を利用している。この技術は、Muse Imageで生成されるすべての画像に埋め込まれ、一般的な編集後もAI生成であることを証明できるように設計されているという。

メタの対応と専門家の見解

ロイターの分析結果について、メタは対象ツールがプレビュー版であることを指摘した。同社は、電子透かしは一般的な編集に耐えるように設計されているものの、画像が大幅にトリミングされた場合は信号が失われる可能性があると説明した。

Ad

AI画像解析を研究するニューヨーク州立大学バッファロー校のシウェイ・リュウ教授は、電子透かしに基づくシステムには限界があると指摘。「トリミング、サイズ変更、高圧縮などの変更が加えられると、埋め込まれた信号が除去または弱体化し、効果が低下する可能性がある」と述べた。

一方で、この技術の将来性も指摘されている。カリフォルニア大学バークレー校の研究者であるサラ・バリントン氏は、「完全防水ではないかもしれないが、90%のケースを捕捉できるだけでも、ゼロからの大きな飛躍だ」と述べ、その価値を認めている。

背景と市場への示唆

ディープフェイクを含むAI生成コンテンツの拡散は、特に米国の中間選挙などを控える中で、社会的な混乱を招くリスクとして深刻に受け止められている。今回の分析結果は、AI生成コンテンツを特定する技術的な課題の大きさを投資家や規制当局に改めて示すものとなった。

今年3月、メタの監督委員会は同社に対し、プラットフォーム上での「欺瞞的なAI生成コンテンツの拡散」に対処するため、より強力な検出ツールへの投資を促す勧告を出していた。GoogleやOpenAIといった競合他社も、自社の検出ツールが画像改変に対して万能ではないことを認めており、業界全体の課題となっている。