เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพที่สร้างโดยตัวเองหลังถูกตัดกรอบ จากการวิเคราะห์โดย Reuters

ผลการวิเคราะห์ล่าสุดโดยสำนักข่าว Reuters พบว่าเครื่องมือตรวจจับภาพปัญญาประดิษฐ์ (AI) ตัวใหม่ของ Meta ไม่สามารถระบุภาพจำนวนมากที่สร้างโดย AI ของบริษัทเองได้ หากภาพเหล่านั้นผ่านการตัดกรอบ (crop) ซึ่งตอกย้ำถึงความท้าทายในการตรวจสอบและรับมือกับคอนเทนต์ที่ถูกดัดแปลงในยุคดิจิทัล

การค้นพบนี้ชี้ให้เห็นถึงข้อจำกัดของเทคโนโลยีในการระบุภาพที่สร้างโดย AI หรือที่เรียกว่า "Deepfake" ซึ่งมีความสำคัญอย่างยิ่งในช่วงที่มีการเลือกตั้งหลายรายการ รวมถึงการเลือกตั้งกลางเทอมของสหรัฐฯ ซึ่งคอนเทนต์ที่ถูกบิดเบือนสามารถแพร่กระจายได้อย่างรวดเร็ว

ผลการทดสอบชี้ช่องโหว่

ในการวิเคราะห์ของ Reuters ได้มีการทดสอบภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดล Muse Image ของ Meta เอง ผลปรากฏว่าเครื่องมือตรวจจับสามารถระบุภาพต้นฉบับทั้งหมดที่สร้างโดย AI ได้อย่างถูกต้อง

อย่างไรก็ตาม ปัญหาได้เกิดขึ้นเมื่อภาพเหล่านั้นถูกนำไปตัดกรอบให้เหลือขนาดประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม โดย Reuters พบว่าเครื่องมือดังกล่าว ล้มเหลวในการระบุภาพที่ถูกตัดกรอบถึง 55%

Meta ระบุบนเว็บไซต์ว่าเครื่องมือนี้ใช้ระบบลายน้ำที่มองไม่เห็น (invisible watermarking) ที่เรียกว่า Content Seal ซึ่งถูกฝังไว้ในทุกภาพที่สร้างจาก Muse Image เพื่อช่วยให้ผู้ใช้สามารถตรวจสอบที่มาของภาพได้ แม้ว่าจะผ่านการแก้ไขทั่วไปเช่นการตัดกรอบก็ตาม

การตอบสนองของ Meta และข้อจำกัดทางเทคนิค

Ad

เมื่อสอบถามเกี่ยวกับผลการวิเคราะห์ของ Reuters ทาง Meta ชี้แจงว่าเครื่องมือดังกล่าวยังอยู่ในช่วงพรีวิว (preview) และยอมรับว่าแม้ลายน้ำจะถูกออกแบบมาให้ทนทานต่อการแก้ไขทั่วไป แต่สัญญาณอาจสูญหายไปได้หากภาพถูกตัดกรอบอย่างหนัก

ข้อจำกัดนี้ไม่ได้เกิดขึ้นกับ Meta เพียงรายเดียว บริษัทเทคโนโลยียักษ์ใหญ่อย่าง Google และ OpenAI ก็เคยออกมายอมรับว่าเครื่องมือตรวจจับของตนเองนั้นไม่สามารถทำงานได้อย่างสมบูรณ์แบบและอาจถูกหลอกได้ด้วยเทคนิคการดัดแปลงภาพ

Siwei Lyu ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงอยู่ครบถ้วน แต่การดัดแปลงใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังอยู่อ่อนลง เช่น การตัดกรอบ การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจลดทอนประสิทธิภาพลงได้"

ความท้าทายในการรับมือกับคอนเทนต์ AI

ก่อนหน้านี้ในเดือนมีนาคม คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทดำเนินการมากขึ้นเพื่อจัดการกับ "การแพร่กระจายของคอนเทนต์หลอกลวงที่สร้างโดย AI" และลงทุนในเครื่องมือตรวจจับที่มีประสิทธิภาพสูงขึ้น

แม้ว่าเทคโนโลยีลายน้ำจะมีข้อจำกัด แต่นักวิจัยบางส่วนมองว่าเป็นก้าวสำคัญในการต่อสู้กับข้อมูลที่ไม่ถูกต้อง Sarah Barrington นักวิจัยด้าน AI จาก UC Berkeley กล่าวว่า "เช่นเดียวกับมาตรการความปลอดภัยทางไซเบอร์อื่นๆ มันอาจจะไม่สามารถป้องกันได้ 100% แต่แม้ว่าเราจะจับได้เพียง 90% ของกรณีทั้งหมด นั่นก็ยังถือเป็นก้าวกระโดดที่ยิ่งใหญ่จากเดิมที่เป็น 0%"