Story
メタのAI画像検出ツール、自社生成画像のトリミングで半数以上を識別できず＝ロイター分析
Summary
ロイターの分析によると、メタが新たに発表したAI画像検出ツールは、自社の生成AIが作成した画像をトリミングすると、その半数以上をAI生成と識別できなかった。この結果は、ディープフェイク対策における電子透かし技術の課題を浮き彫りにしている。
メタが新たに発表したAI画像検出ツールは、自社が生成したAI画像であっても、トリミング（切り抜き）されると半数以上を識別できないことが、ロイターの分析で明らかになった。この事実は、偽情報対策として期待される電子透かし技術の限界を示唆しており、テクノロジー業界全体の課題を浮き彫りにしている。
ロイターの分析で判明した脆弱性
ロイターは、メタの画像生成モデル「Muse Image」で作成された40枚の画像を対象に分析を実施した。その結果、オリジナルのAI生成画像はすべて検出ツールで正しく識別されたものの、これらの画像を元のサイズの3分の1から半分程度にトリミングしたところ、55%がAI生成として識別されなかったという。
メタのツールは、「Content Seal」と呼ばれる目に見えない電子透かしシステムを利用している。この技術は、トリミングなどの一般的な編集後も情報が残るように設計されている。ロイターの分析結果についてメタは、このツールがプレビュー版であることを指摘し、画像が大幅にトリミングされた場合には信号が失われる可能性があると説明した。
ディープフェイク対策の課題
この分析結果は、一般的な改変が加えられた後のAI生成コンテンツを検証する上での大きな課題を示している。特に、重要な選挙が続く年にオンライン上のディープフェイクを特定し、偽情報の拡散を抑制する取り組みをより困難にする可能性がある。
Adこの問題はメタに限ったことではない。グーグルやオープンAIといった競合他社も、自社の検出ツールが画像の改変に対して万能ではないと認めている。ニューヨーク州立大学バッファロー校のシウェイ・リュウ教授は、電子透かしベースの手法について「トリミング、リサイズ、強い圧縮、編集など、埋め込まれた信号を除去または弱めるような変更が加えられると、その有効性が低下する可能性がある」と指摘している。
専門家の見方と今後の展望
一方で、専門家は電子透かし技術の将来性も指摘する。カリフォルニア大学バークレー校の研究者サラ・バリントン氏は、この技術が「完全に水も漏らさぬものではないかもしれないが、たとえ90%のケースを捕捉できるだけでも、ゼロからの大きな飛躍だ」と述べている。
メタの監督委員会は今年3月、同社に対し、プラットフォーム上での「欺瞞的なAI生成コンテンツの拡散」に対処するため、より強力な検出ツールに投資するよう勧告していた。今回の分析結果は、AI生成技術と検出技術の「いたちごっこ」が続いており、偽情報との戦いにおいて技術的な改良が不可欠であることを示している。