Reuters พบเครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพที่ถูกตัดต่อจากระบบของตัวเอง

เครื่องมือตรวจจับปัญญาประดิษฐ์ (AI) ใหม่จาก Meta Platforms ไม่สามารถระบุภาพบางส่วนที่สร้างโดย AI ของตนเองได้หลังจากภาพเหล่านั้นถูกตัดส่วน (crop) ตามการวิเคราะห์ล่าสุดโดยสำนักข่าว Reuters การค้นพบนี้ตอกย้ำถึงความท้าทายในการตรวจสอบและยืนยันเนื้อหาที่สร้างโดย AI ซึ่งอาจส่งผลกระทบต่อความน่าเชื่อถือในการระบุข่าวปลอมและ deepfakes บนโลกออนไลน์ โดยเฉพาะในช่วงปีที่มีการเลือกตั้งสำคัญ

รายละเอียดการตรวจสอบ

การวิเคราะห์ของ Reuters ทำการทดสอบกับภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดลสร้างภาพของ Meta ที่ชื่อว่า Muse Image ผลปรากฏว่าเครื่องมือตรวจจับสามารถยืนยันภาพต้นฉบับที่สร้างโดย AI ได้ทั้งหมด แต่กลับล้มเหลวในการยืนยันภาพเดียวกันถึง 55% หลังจากที่ภาพเหล่านั้นถูกตัดส่วนออกไปประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม

Meta ระบุบนเว็บไซต์ว่าเครื่องมือนี้ ซึ่งอยู่ในช่วงทดลอง (preview) ถูกออกแบบมาเพื่อระบุภาพที่สร้างโดย AI ของบริษัทผ่านระบบลายน้ำที่มองไม่เห็นที่เรียกว่า Content Seal ซึ่งจะฝังอยู่ในทุกภาพที่สร้างจาก Muse Image อย่างไรก็ตาม Meta ชี้แจงต่อผลการวิเคราะห์ของ Reuters ว่า แม้ลายน้ำจะถูกออกแบบมาให้คงอยู่หลังการแก้ไขทั่วไป แต่สัญญาณอาจสูญหายไปได้หากภาพถูกตัดส่วนออกไปมาก

ความท้าทายและมุมมองจากผู้เชี่ยวชาญ

Ad

ข้อจำกัดของเทคโนโลยีนี้ไม่ใช่เรื่องใหม่ โดยบริษัทเทคโนโลยียักษ์ใหญ่อย่าง Google และ OpenAI ก็เคยออกมายอมรับว่าเครื่องมือตรวจจับของตนเองนั้นไม่สามารถป้องกันการดัดแปลงภาพได้อย่างสมบูรณ์

• Siwei Lyu ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า ระบบที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงสมบูรณ์ แต่การแก้ไขใดๆ เช่น การตัดส่วน, การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจลดทอนประสิทธิภาพลงได้
• Sarah Barrington นักวิจัยด้าน AI จาก UC Berkeley School of Information มองว่า แม้เทคโนโลยีลายน้ำอาจไม่สามารถป้องกันได้ 100% แต่ก็ถือเป็นความก้าวหน้าที่สำคัญ “แม้ว่าเราจะตรวจจับได้เพียง 90% ของกรณีทั้งหมด นั่นก็ยังถือเป็นการพัฒนาที่ยิ่งใหญ่จากเดิมที่ตรวจจับไม่ได้เลย” เธอกล่าว

ก่อนหน้านี้ คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทลงทุนในเครื่องมือตรวจจับที่แข็งแกร่งขึ้น เพื่อรับมือกับการแพร่กระจายของเนื้อหาหลอกลวงที่สร้างโดย AI บนแพลตฟอร์มต่างๆ ของบริษัท