เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพที่สร้างโดยตัวเองหลังถูกครอบตัด ตามการวิเคราะห์ของ Reuters

เครื่องมือตรวจจับปัญญาประดิษฐ์ (AI) ใหม่จาก Meta Platforms ล้มเหลวในการระบุภาพที่สร้างโดย AI ของบริษัทเองจำนวนมากหลังจากที่ภาพเหล่านั้นถูกครอบตัด (crop) ตามการวิเคราะห์ล่าสุดโดยสำนักข่าว Reuters การค้นพบนี้ชี้ให้เห็นถึงความท้าทายที่สำคัญในการตรวจสอบยืนยันเนื้อหาที่สร้างโดย AI ซึ่งอาจส่งผลกระทบต่อความสามารถในการต่อสู้กับข้อมูลบิดเบือนทางออนไลน์

ผลการทดสอบจาก Reuters

Reuters ได้ทำการทดสอบเครื่องมือตรวจจับภาพ AI ที่ Meta เปิดตัวพร้อมกับแบบจำลองการสร้างภาพชื่อ Muse Image โดยการวิเคราะห์ภาพที่สร้างขึ้นจำนวน 40 ภาพ พบว่าเครื่องมือสามารถตรวจสอบและยืนยันภาพต้นฉบับทั้งหมดได้ว่าเป็นภาพที่สร้างโดย AI

อย่างไรก็ตาม หลังจากนำภาพเดียวกันไปครอบตัดให้เหลือขนาดประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม ผลปรากฏว่าเครื่องมือดังกล่าวล้มเหลวในการตรวจสอบยืนยันภาพถึง 55% ของภาพที่ถูกทดสอบ ซึ่งแสดงให้เห็นถึงข้อจำกัดของเทคโนโลยีลายน้ำดิจิทัลที่มองไม่เห็น (invisible watermark) ที่ชื่อว่า Content Seal ซึ่ง Meta ใช้ฝังลงในทุกภาพที่สร้างขึ้น

ความท้าทายของเทคโนโลยีและมุมมองผู้เชี่ยวชาญ

Meta ชี้แจงว่าเครื่องมือดังกล่าวยังอยู่ในช่วงพรีวิว และยอมรับว่าแม้ลายน้ำจะถูกออกแบบมาให้ทนทานต่อการแก้ไขทั่วไป แต่การครอบตัดภาพอย่างหนักอาจทำให้สัญญาณลายน้ำสูญหายไปได้ ซึ่งสอดคล้องกับบริษัทเทคโนโลยีคู่แข่งอย่าง Google และ OpenAI ที่ต่างก็ยอมรับว่าเครื่องมือตรวจจับของตนยังไม่สามารถทำงานได้อย่างสมบูรณ์แบบ

Ad

นายซีเหว่ย หลู่ (Siwei Lyu) ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงสมบูรณ์ แต่การแก้ไขใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังอยู่อ่อนแอลง เช่น การครอบตัด การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจลดทอนประสิทธิภาพลงได้"

ความหมายต่อนักลงทุนและตลาด

ความล้มเหลวในการตรวจจับภาพ AI ที่ถูกแก้ไขอย่างน่าเชื่อถือ ถือเป็นความเสี่ยงด้านชื่อเสียงและกฎระเบียบที่สำคัญสำหรับแพลตฟอร์มโซเชียลมีเดียอย่าง Meta โดยเฉพาะในช่วงปีที่มีการเลือกตั้ง ซึ่งเนื้อหาประเภท deepfake อาจถูกใช้เพื่อเผยแพร่ข้อมูลเท็จและสร้างความสับสนวุ่นวาย

ก่อนหน้านี้ คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทเพิ่มความพยายามในการจัดการกับเนื้อหาหลอกลวงที่สร้างโดย AI และลงทุนในเครื่องมือตรวจจับที่มีประสิทธิภาพมากขึ้น การค้นพบนี้ตอกย้ำถึงความท้าทายทางเทคโนโลยีที่อุตสาหกรรมทั้งระบบกำลังเผชิญ ซึ่งอาจนำไปสู่การเพิ่มขึ้นของต้นทุนด้านการวิจัยและพัฒนา และการเผชิญกับการตรวจสอบจากหน่วยงานกำกับดูแลที่เข้มข้นขึ้นในอนาคต