Story
メタのAI画像検出ツール、自社生成画像のトリミングで半数以上を識別できず＝ロイター分析
ロイターが実施した分析によると、米メタ・プラットフォームズが新たに発表したAI画像検出ツールは、同社の画像生成モデル「Muse Image」が作成した画像をトリミングすると、その半数以上をAI生成であると識別できなくなることが明らかになった。この結果は、ディープフェイク（偽情報）の拡散防止における技術的な課題を浮き彫りにしている。
ロイターの分析で判明した脆弱性
ロイターは、メタの「Muse Image」で生成された40枚の画像をテストした。その結果、元の画像はすべてAI生成であると正しく識別されたものの、元のサイズの約3分の1から半分にトリミングしたところ、55%の画像が識別不能となった。
メタによると、このツールは「Content Seal」と呼ばれる不可視の電子透かし技術を利用しており、トリミングなどの一般的な編集後も検出可能であると説明していた。ロイターの指摘に対し、メタは同ツールがプレビュー版であることを認め、大幅なトリミングによって透かし情報が失われる可能性があるとコメントした。
ディープフェイク対策の技術的限界
AI生成コンテンツの識別は、特に重要な選挙を控える中で、偽情報の拡散を防ぐための喫緊の課題となっている。今回の分析結果は、電子透かしをベースとした検出システムの限界を示唆している。
Adニューヨーク州立大学バッファロー校でAI画像解析を研究するシウェイ・リュー教授は、ロイターに対し「電子透かしは、情報が損なわれなければ非常に効果的だが、トリミング、サイズ変更、高圧縮などの変更が加わると効果が低下する可能性がある」と指摘した。グーグルやOpenAIといった他のハイテク企業も、自社の検出ツールが万能ではないことを認めている。
投資家と市場への示唆
この問題は、テクノロジー企業がAIのリスクをいかに管理しているかという点において、投資家の注目を集めている。メタの監督委員会は今年3月、同社に対して「欺瞞的なAI生成コンテンツの拡散」に対処するため、より強力な検出ツールへの投資を要請していた。
専門家は、検出技術が完璧でなくても、偽コンテンツの9割を捕捉できれば大きな進歩だと指摘する。しかし、AI技術の進化に伴い、生成モデルと検出ツールのいたちごっこは続くとみられ、プラットフォーム企業は継続的な技術開発と投資を迫られることになる。