เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพที่ถูกตัดส่วน ซึ่งสร้างโดย AI ของตนเอง

เครื่องมือตรวจจับปัญญาประดิษฐ์ (AI) ใหม่จาก Meta Platforms ล้มเหลวในการระบุภาพที่สร้างโดย AI ของบริษัทเองจำนวนมากหลังจากที่ภาพเหล่านั้นถูกตัดส่วน (crop) ตามการวิเคราะห์ของสำนักข่าว Reuters การค้นพบนี้ชี้ให้เห็นถึงความท้าทายสำคัญในการตรวจสอบเนื้อหาที่สร้างโดย AI ซึ่งอาจถูกดัดแปลงแก้ไขได้ง่าย

การทดสอบพบช่องโหว่สำคัญ

Reuters ได้ทำการวิเคราะห์ภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดล Muse Image ของ Meta และพบว่าเครื่องมือตรวจจับสามารถยืนยันภาพต้นฉบับทั้งหมดที่สร้างโดย AI ได้อย่างถูกต้อง อย่างไรก็ตาม เครื่องมือดังกล่าวกลับล้มเหลวในการตรวจสอบภาพชุดเดียวกันถึง 55% หลังจากที่ภาพถูกตัดส่วนออกไปประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม

เครื่องมือนี้ทำงานโดยอาศัยระบบลายน้ำที่มองไม่เห็น (invisible watermark) ที่เรียกว่า Content Seal ซึ่งฝังอยู่ในทุกภาพที่สร้างโดย Muse Image ทาง Meta ระบุว่าลายน้ำนี้ถูกออกแบบมาเพื่อช่วยให้ผู้ใช้สามารถตรวจสอบได้ว่าภาพนั้นถูกสร้างขึ้นโดยโมเดล AI ของ Meta หรือไม่ แม้จะผ่านการแก้ไขทั่วไปก็ตาม

ท่าทีของ Meta และความท้าทายในวงการ

เมื่อถูกสอบถามเกี่ยวกับผลการวิเคราะห์ของ Reuters ทาง Meta ชี้แจงว่าเครื่องมือดังกล่าวยังอยู่ในช่วงพรีวิว (preview) และยอมรับว่าสัญญาณลายน้ำอาจสูญหายไปได้หากภาพถูกตัดส่วนอย่างหนัก ทั้งนี้ ปัญหาดังกล่าวไม่ได้จำกัดอยู่แค่ Meta เพียงบริษัทเดียว โดยคู่แข่งอย่าง Google และ OpenAI ก็เคยออกมายอมรับว่าเครื่องมือตรวจจับของตนเองก็ไม่ได้สมบูรณ์แบบและอาจถูกหลอกได้ด้วยเทคนิคการแก้ไขภาพ

Ad

ความท้าทายนี้มีความสำคัญอย่างยิ่ง โดยเฉพาะในช่วงปีที่มีการเลือกตั้งสำคัญหลายแห่ง รวมถึงการเลือกตั้งกลางเทอมของสหรัฐฯ ซึ่งความสามารถในการระบุเนื้อหาปลอมหรือ "ดีปเฟก" (deepfake) ได้อย่างแม่นยำถือเป็นเรื่องเร่งด่วน ก่อนหน้านี้ในเดือนมีนาคม คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทเพิ่มความพยายามในการจัดการกับ "การแพร่กระจายของเนื้อหาหลอกลวงที่สร้างโดย AI" และลงทุนในเครื่องมือตรวจจับที่แข็งแกร่งขึ้น

มุมมองจากผู้เชี่ยวชาญ

ผู้เชี่ยวชาญด้าน AI ชี้ว่าเทคโนโลยีที่ใช้ลายน้ำมีข้อจำกัด ซีเว่ย หลิว (Siwei Lyu) ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงอยู่ครบถ้วน แต่การแก้ไขใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังไว้อ่อนลง เช่น การตัดส่วน การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจลดทอนประสิทธิภาพลงได้"

ในขณะเดียวกัน ซาราห์ แบร์ริงตัน (Sarah Barrington) นักวิจัยด้าน AI จาก UC Berkeley School of Information มองว่าเทคโนโลยีลายน้ำยังคงมีอนาคต แม้จะไม่สามารถป้องกันได้ 100% "แม้ว่าเราจะตรวจจับได้เพียง 90% ของกรณีทั้งหมด นั่นก็ยังถือเป็นก้าวกระโดดที่ยิ่งใหญ่จาก 0%" เธอกล่าว