Story
メタ社のAI画像検出ツール、自社生成画像のトリミングで認識失敗＝ロイター検証
ロイターが実施した分析によると、米メタ・プラットフォームズが新たに発表したAI（人工知能）画像検出ツールが、同社の画像生成モデル「Muse Image」で作成された画像の一部を、トリミング後にAI生成と認識できなかったことが明らかになった。この結果は、特に選挙を控える中で懸念されるディープフェイク対策の難しさを示唆している。
検証で明らかになった検出ツールの限界
ロイターはMuse Imageで生成された40枚の画像を分析した。その結果、元の画像はすべてAI生成であると正しく検出されたが、元のサイズの約3分の1から半分にトリミングしたところ、55% の画像がAI生成であると認識されなかったという。
メタ社によると、このツールは「コンテンツシール（Content Seal）」と呼ばれる目に見えない電子透かし技術を利用している。この技術は、Muse Imageで生成されたすべての画像に埋め込まれ、トリミングなどの一般的な編集後もAIが生成したことを証明できるように設計されている。
メタ社の見解と専門家の指摘
ロイターの分析結果についてメタ社は、このツールがプレビュー版であることを指摘。電子透かしは一般的な編集に耐えるように設計されているものの、画像を大幅にトリミングした場合には信号が失われる可能性があると説明した。
Adこの問題はメタ社に限ったことではない。グーグルやオープンAIといった競合他社も、自社の検出ツールが画像改変に対して万能ではないと警告している。ニューヨーク州立大学バッファロー校でAI画像解析を研究するシウェイ・リュウ教授は、「電子透かしは信号が損なわれない限り非常に効果的だが、トリミングや圧縮、編集などの変更が加わると有効性が低下する可能性がある」と指摘する。
市場への影響と背景
AIによる偽情報の拡散は、テクノロジー企業にとって大きな課題となっている。特に米国の中間選挙など、世界的に重要な選挙が続く中で、信頼性の高い検出ツールの開発は急務だ。今年3月には、メタの監督委員会が同社に対し、プラットフォーム上での「欺瞞的なAI生成コンテンツの拡散」に対処するため、より強力な検出ツールへの投資を求めていた。
今回の検証結果は、電子透かし技術が有望である一方で、現状では完璧な解決策ではないことを示している。投資家は、AI技術の進化とともに、偽情報対策に関連するテクノロジー企業の技術的・評判上のリスクを注視する必要があるだろう。