Story
メタのAI画像検出ツール、自社生成画像のトリミングで識別失敗 ロイター分析
メタ・プラットフォームズが新たにプレビュー公開したAI検出ツールが、自社の画像生成モデルによって作成された画像であっても、トリミング（切り抜き）されると識別できなくなるケースが多数あることが、ロイターの分析で明らかになった。この結果は、特に選挙イヤーにおいて懸念されるディープフェイクなどの偽情報対策の難しさを示唆している。
ロイターの分析で判明した脆弱性
ロイターは、メタの画像生成モデル「Muse Image」で生成した40枚の画像を分析した。その結果、メタの検出ツールはオリジナルの画像についてはすべてAI生成であると正しく識別した。
しかし、これらの画像を元のサイズの3分の1から半分程度にトリミングしたところ、検出ツールは55%の画像についてAI生成であると識別できなかった。メタは、Muse Imageが生成するすべての画像に「コンテントシール」と呼ばれる不可視の電子透かしを埋め込み、これによってAI生成コンテンツの検証が可能になるとしていた。
メタ側の見解と専門家の指摘
ロイターの分析結果について、メタは、このツールがプレビュー版であることを指摘した。同社によると、電子透かしは一般的な編集に耐えるように設計されているものの、画像が大幅にトリミングされた場合には信号が失われる可能性があるという。
Adこの問題はメタに限ったことではない。グーグルやOpenAIといった競合他社も、自社の検出ツールが画像改変に対して万能ではないことを認めている。ニューヨーク州立大学バッファロー校でAI画像解析を研究するシウェイ・リュウ教授は、「電子透かしは改変されなければ非常に効果的だが、トリミングや圧縮などの変更が加えられると効果が低下する可能性がある」と、その限界を指摘する。
市場への影響と背景
AIによって生成された偽情報の拡散は、メタのようなソーシャルメディアプラットフォームにとって大きな評判リスクおよび規制リスクとなる。特に米国中間選挙などを控える中、信頼性の高い検出技術の確立は急務だ。
メタの監督委員会は今年3月、同社に対して「欺瞞的なAI生成コンテンツの拡散」に対処するため、より強力な検出ツールへの投資を求める勧告を出している。今回の分析結果は、電子透かし技術が有望である一方、悪意のある編集に対しては依然として脆弱性を抱えているという現実を投資家に突きつけるものとなった。