Story
เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพที่สร้างโดยตัวเองหลังถูกตัดกรอบ จากการวิเคราะห์โดย Reuters
Summary
ผลการวิเคราะห์โดย Reuters พบว่าเครื่องมือใหม่ของ Meta ไม่สามารถตรวจจับภาพที่สร้างโดย AI ของตนเองได้กว่าครึ่งหลังจากการตัดกรอบภาพ ซึ่งชี้ให้เห็นถึงความท้าทายในการต่อสู้กับข่าวปลอมและ Deepfake
ผลการวิเคราะห์ล่าสุดโดยสำนักข่าว Reuters พบว่าเครื่องมือตรวจจับภาพปัญญาประดิษฐ์ (AI) ตัวใหม่ของ Meta ไม่สามารถระบุภาพจำนวนมากที่สร้างโดย AI ของบริษัทเองได้ หากภาพเหล่านั้นผ่านการตัดกรอบ (crop) ซึ่งตอกย้ำถึงความท้าทายในการตรวจสอบและรับมือกับคอนเทนต์ที่ถูกดัดแปลงในยุคดิจิทัล
การค้นพบนี้ชี้ให้เห็นถึงข้อจำกัดของเทคโนโลยีในการระบุภาพที่สร้างโดย AI หรือที่เรียกว่า "Deepfake" ซึ่งมีความสำคัญอย่างยิ่งในช่วงที่มีการเลือกตั้งหลายรายการ รวมถึงการเลือกตั้งกลางเทอมของสหรัฐฯ ซึ่งคอนเทนต์ที่ถูกบิดเบือนสามารถแพร่กระจายได้อย่างรวดเร็ว
ผลการทดสอบชี้ช่องโหว่
ในการวิเคราะห์ของ Reuters ได้มีการทดสอบภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดล Muse Image ของ Meta เอง ผลปรากฏว่าเครื่องมือตรวจจับสามารถระบุภาพต้นฉบับทั้งหมดที่สร้างโดย AI ได้อย่างถูกต้อง
อย่างไรก็ตาม ปัญหาได้เกิดขึ้นเมื่อภาพเหล่านั้นถูกนำไปตัดกรอบให้เหลือขนาดประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม โดย Reuters พบว่าเครื่องมือดังกล่าว ล้มเหลวในการระบุภาพที่ถูกตัดกรอบถึง 55%
Meta ระบุบนเว็บไซต์ว่าเครื่องมือนี้ใช้ระบบลายน้ำที่มองไม่เห็น (invisible watermarking) ที่เรียกว่า Content Seal ซึ่งถูกฝังไว้ในทุกภาพที่สร้างจาก Muse Image เพื่อช่วยให้ผู้ใช้สามารถตรวจสอบที่มาของภาพได้ แม้ว่าจะผ่านการแก้ไขทั่วไปเช่นการตัดกรอบก็ตาม
การตอบสนองของ Meta และข้อจำกัดทางเทคนิค
Adเมื่อสอบถามเกี่ยวกับผลการวิเคราะห์ของ Reuters ทาง Meta ชี้แจงว่าเครื่องมือดังกล่าวยังอยู่ในช่วงพรีวิว (preview) และยอมรับว่าแม้ลายน้ำจะถูกออกแบบมาให้ทนทานต่อการแก้ไขทั่วไป แต่สัญญาณอาจสูญหายไปได้หากภาพถูกตัดกรอบอย่างหนัก
ข้อจำกัดนี้ไม่ได้เกิดขึ้นกับ Meta เพียงรายเดียว บริษัทเทคโนโลยียักษ์ใหญ่อย่าง Google และ OpenAI ก็เคยออกมายอมรับว่าเครื่องมือตรวจจับของตนเองนั้นไม่สามารถทำงานได้อย่างสมบูรณ์แบบและอาจถูกหลอกได้ด้วยเทคนิคการดัดแปลงภาพ
Siwei Lyu ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงอยู่ครบถ้วน แต่การดัดแปลงใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังอยู่อ่อนลง เช่น การตัดกรอบ การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจลดทอนประสิทธิภาพลงได้"
ความท้าทายในการรับมือกับคอนเทนต์ AI
ก่อนหน้านี้ในเดือนมีนาคม คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทดำเนินการมากขึ้นเพื่อจัดการกับ "การแพร่กระจายของคอนเทนต์หลอกลวงที่สร้างโดย AI" และลงทุนในเครื่องมือตรวจจับที่มีประสิทธิภาพสูงขึ้น
แม้ว่าเทคโนโลยีลายน้ำจะมีข้อจำกัด แต่นักวิจัยบางส่วนมองว่าเป็นก้าวสำคัญในการต่อสู้กับข้อมูลที่ไม่ถูกต้อง Sarah Barrington นักวิจัยด้าน AI จาก UC Berkeley กล่าวว่า "เช่นเดียวกับมาตรการความปลอดภัยทางไซเบอร์อื่นๆ มันอาจจะไม่สามารถป้องกันได้ 100% แต่แม้ว่าเราจะจับได้เพียง 90% ของกรณีทั้งหมด นั่นก็ยังถือเป็นก้าวกระโดดที่ยิ่งใหญ่จากเดิมที่เป็น 0%"