Story
メタのAI画像検出ツール、自社生成のトリミング画像で半数以上を識別できず＝ロイター分析
Summary
ロイターの分析によると、メタが新たに発表したAI画像検出ツールは、同社のモデルが生成した画像をトリミングすると、その半数以上をAI生成と識別できないことが判明した。これは加工された偽情報への対策の難しさを示している。
ロイターが実施した分析により、Meta（メタ）が新たに発表したAI画像検出ツールが、同社の画像生成モデル「Muse Image」によって作成された画像をトリミング（切り抜き）すると、その多くをAI生成として識別できなくなることが明らかになった。この結果は、特に選挙を控える中で懸念されるディープフェイクなど、加工されたAIコンテンツを特定する技術的な課題を浮き彫りにしている。
ロイターによる検証の詳細
ロイターは、「Muse Image」で生成された40枚の画像を分析した。その結果、元の画像はすべてAI生成であると正しく検出されたものの、元のサイズの3分の1から半分程度にトリミングされた後では、55% の画像がAI生成であると識別されなかった。
メタの検出ツールは、「Content Seal」と呼ばれる目に見えない電子透かし技術を利用している。この技術は、Muse Imageで生成されたすべての画像に埋め込まれ、トリミングなどの一般的な編集後もAI生成であることを証明できる設計だとされている。
メタ社の見解と専門家の指摘
ロイターの分析結果について、メタ社は、このツールがプレビュー版であることを指摘。電子透かしは一般的な編集に耐えるように設計されているものの、大幅にトリミングされた場合は信号が失われる可能性があると説明した。
AdAI画像解析を専門とするニューヨーク州立大学バッファロー校のシウェイ・リュウ教授は、電子透かしに基づく手法には限界があると指摘する。「電子透かしが損なわれなければ非常に効果的だが、トリミング、サイズ変更、強い圧縮などの改変は、信号を弱め、効果を低下させる可能性がある」と述べている。
市場への影響と背景
AIによって生成された偽情報の拡散は、メタのようなソーシャルメディアプラットフォームにとって大きな技術的・評判上のリスクとなっている。特に、米国の中間選挙などを控え、オンラインでの偽情報対策の重要性は増している。
メタの監督委員会は以前から、同社プラットフォーム上での「欺瞞的なAI生成コンテンツの拡散」に対処するため、より強力な検出ツールへの投資を求めていた。今回の分析結果は、電子透かし技術が万能ではなく、悪意のあるコンテンツの拡散を完全に防ぐことが困難であることを投資家に示唆している。