Story
メタの新AI画像検出ツール、トリミング後の自社生成画像の半数以上を特定できず
Summary
ロイターの分析によると、メタが新たに発表したAI画像検出ツールは、同社のモデルが生成した画像をトリミングすると、その半数以上をAI生成と認識できないことが判明した。ディープフェイク対策の技術的な課題が浮き彫りになっている。
メタ・プラットフォームズが今週プレビュー公開した新しいAI画像検出ツールが、自社の画像生成モデルによって作成された画像をトリミング（切り抜き）すると、その多くを検出できないことがロイターの分析で明らかになった。これは、AIによる偽情報、いわゆるディープフェイク対策における技術的な限界を示すものだ。
ロイターの分析で判明した脆弱性
ロイターは、メタの画像生成モデル「Muse Image」で作成された40枚の画像を分析した。その結果、オリジナルのAI生成画像はすべて検出ツールによって正しく特定された。しかし、これらの画像を元のサイズの3分の1から半分程度にトリミングしたところ、55%がAI生成であると検出されなかった。
メタによると、このツールは「Content Seal」と呼ばれる目に見えない電子透かしシステムを利用しており、トリミングなどの一般的な編集後も機能するように設計されているという。ロイターの分析結果についてメタは、このツールがプレビュー版であることを指摘し、画像が大幅にトリミングされた場合、透かしの信号が失われる可能性があると説明した。
ディープフェイク対策の課題
この問題は、米国の中間選挙を含む重要な選挙が続く年に、オンライン上のディープフェイクを特定することの難しさを浮き彫りにしている。競合するグーグルやオープンAIも、自社の検出ツールが画像改変に対して万能ではないと警告している。
Ad今年3月には、メタの監督委員会も同社に対し、プラットフォーム上での「欺瞞的なAI生成コンテンツの拡散」に対処するため、より強力な検出ツールへの投資を求めていた。今回の分析結果は、こうした要請に応えることの難しさを示唆している。
専門家による見解
AI画像のフォレンジック（科学捜査）を研究するニューヨーク州立大学バッファロー校のシウェイ・リュウ教授は、電子透かしに基づくシステムには限界があると指摘する。「透かしが損なわれていない場合は非常に効果的だが、トリミング、サイズ変更、強い圧縮などの改変によって埋め込まれた信号が除去・弱化されると、有効性が低下する可能性がある」と同氏は述べている。
一方で、カリフォルニア大学バークレー校のAI研究者サラ・バリントン氏は、電子透かし技術はAI生成コンテンツの将来にとって有望だとしつつも、「完全に水密ではないかもしれないが、たとえ90%のケースしか捕捉できなくても、0%から比べれば大きな飛躍だ」と述べ、その有用性を強調した。