ผลวิเคราะห์ Reuters: เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพที่ถูกตัดแต่งจากโมเดลของตัวเอง

ผลการวิเคราะห์โดยสำนักข่าว Reuters พบว่าเครื่องมือตรวจจับปัญญาประดิษฐ์ (AI) ตัวใหม่ของ Meta ล้มเหลวในการระบุภาพบางส่วนที่สร้างขึ้นโดยโมเดลของบริษัทเองหลังจากถูกตัดแต่ง (crop) ซึ่งตอกย้ำถึงความท้าทายในการตรวจสอบเนื้อหาที่สร้างโดย AI ในยุคที่ข้อมูลข่าวสารแพร่กระจายอย่างรวดเร็ว

ผลการทดสอบพบช่องโหว่

Reuters ได้ทำการวิเคราะห์ภาพจำนวน 40 ภาพที่สร้างโดยโมเดล Muse Image ของ Meta และพบว่าเครื่องมือตรวจจับสามารถยืนยันภาพต้นฉบับทั้งหมดว่าเป็นภาพที่สร้างโดย AI ได้อย่างถูกต้อง อย่างไรก็ตาม เครื่องมือดังกล่าวกลับล้มเหลวในการยืนยันภาพชุดเดียวกันถึง 55% หลังจากที่ภาพเหล่านั้นถูกตัดให้มีขนาดเล็กลงเหลือประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม

Meta ระบุบนเว็บไซต์ว่าเครื่องมือนี้ใช้ระบบลายน้ำที่มองไม่เห็นที่เรียกว่า Content Seal ซึ่งฝังอยู่ในทุกภาพที่สร้างจาก Muse Image เพื่อช่วยให้ผู้ใช้สามารถตรวจสอบที่มาได้ แม้ภาพจะถูกตัดแต่งไปบ้างก็ตาม

ความท้าทายในการตรวจจับ Deepfake

ข้อจำกัดที่พบนี้อาจส่งผลกระทบต่อความสามารถในการระบุภาพตัดต่อเชิงลึก (deepfake) บนโลกออนไลน์ โดยเฉพาะในช่วงเวลาสำคัญทางการเมือง เช่น การเลือกตั้งกลางเทอมของสหรัฐฯ ทั้งนี้ Meta ได้ชี้แจงต่อ Reuters ว่าเครื่องมือดังกล่าวยังอยู่ในขั้น "พรีวิว" และยอมรับว่าสัญญาณลายน้ำอาจหายไปได้หากภาพถูกตัดแต่งอย่างหนัก

Ad

บริษัทเทคโนโลยียักษ์ใหญ่อื่นๆ เช่น Google และ OpenAI ก็เคยออกมายอมรับเช่นกันว่าเครื่องมือตรวจจับของตนยังไม่สามารถป้องกันเทคนิคการตัดต่อภาพได้อย่างสมบูรณ์แบบ ก่อนหน้านี้ในเดือนมีนาคม คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทลงทุนในเครื่องมือตรวจจับที่แข็งแกร่งขึ้นเพื่อรับมือกับการแพร่กระจายของเนื้อหาหลอกลวงที่สร้างโดย AI

มุมมองจากผู้เชี่ยวชาญ

ผู้เชี่ยวชาญด้าน AI ได้ให้ความเห็นว่าระบบที่ใช้ลายน้ำนั้นมีข้อจำกัดโดยธรรมชาติ ซือเหว่ย หลู่ (Siwei Lyu) ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงอยู่ แต่การแก้ไขใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังอยู่อ่อนแอลง เช่น การตัด, การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจลดประสิทธิภาพลงได้"

อย่างไรก็ตาม ซาราห์ แบร์ริงตัน (Sarah Barrington) นักวิจัยด้าน AI จาก UC Berkeley School of Information มองว่าเทคโนโลยีลายน้ำยังคงมีอนาคต แม้จะไม่สามารถป้องกันได้ 100% แต่การตรวจจับได้แม้เพียง 90% ก็ถือเป็นก้าวกระโดดที่สำคัญเมื่อเทียบกับการที่ตรวจจับไม่ได้เลย