เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพที่ถูกตัดส่วน ตามการวิเคราะห์ของ Reuters

เครื่องมือตรวจจับปัญญาประดิษฐ์ (AI) ใหม่จาก Meta Platforms ไม่สามารถระบุภาพบางส่วนที่สร้างโดย AI ของบริษัทเองได้หลังจากถูกตัดแต่ง ตามการวิเคราะห์ของสำนักข่าว Reuters การค้นพบนี้ตอกย้ำถึงความท้าทายในการตรวจสอบเนื้อหาที่สร้างโดย AI ซึ่งอาจส่งผลกระทบต่อความน่าเชื่อถือของข้อมูลออนไลน์ โดยเฉพาะในช่วงปีที่มีการเลือกตั้งสำคัญ

ผลการทดสอบพบช่องโหว่

การวิเคราะห์ของ Reuters ได้ทำการทดสอบกับภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดลสร้างภาพของ Meta ที่ชื่อว่า Muse Image ผลปรากฏว่าเครื่องมือตรวจจับสามารถยืนยันภาพต้นฉบับทั้งหมดที่สร้างโดย AI ได้อย่างถูกต้อง แต่กลับล้มเหลวในการระบุภาพเดียวกันถึง 55% หลังจากที่ภาพเหล่านั้นถูกตัดส่วน (crop) ให้เหลือขนาดประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม

Meta ระบุบนเว็บไซต์ว่าเครื่องมือนี้ ซึ่งยังอยู่ในช่วงพรีวิว สามารถระบุภาพที่สร้างโดย AI ของตนเองได้แม้จะถูกตัดส่วน ผ่านระบบลายน้ำที่มองไม่เห็นที่เรียกว่า Content Seal ซึ่งฝังอยู่ในทุกภาพที่สร้างโดย Muse Image

ความท้าทายและมุมมองผู้เชี่ยวชาญ

เมื่อสอบถามเกี่ยวกับผลการวิเคราะห์ของ Reuters ทาง Meta ชี้แจงว่าเครื่องมือดังกล่าวยังเป็นเวอร์ชันพรีวิว และยอมรับว่าแม้ลายน้ำจะถูกออกแบบมาให้ทนทานต่อการแก้ไขทั่วไป แต่สัญญาณอาจสูญหายไปได้หากภาพถูกตัดส่วนอย่างหนัก ปัญหานี้ไม่ได้จำกัดอยู่แค่ที่ Meta เท่านั้น บริษัทเทคโนโลยียักษ์ใหญ่อย่าง Google และ OpenAI ก็เคยออกมายอมรับว่าเครื่องมือตรวจจับของพวกเขายังมีข้อจำกัดและไม่สามารถป้องกันการดัดแปลงภาพได้ทั้งหมด

Ad

Siwei Lyu ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงสมบูรณ์ แต่การแก้ไขใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังอยู่อ่อนแอลง เช่น การตัดส่วน การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจลดทอนประสิทธิภาพลงได้"

แรงกดดันในการต่อสู้กับ Deepfake

ความท้าทายในการตรวจจับเนื้อหาที่สร้างโดย AI เกิดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นเกี่ยวกับการแพร่กระจายของข้อมูลที่ไม่ถูกต้องหรือ "deepfake" โดยเฉพาะในช่วงที่มีเหตุการณ์สำคัญทางการเมือง เช่น การเลือกตั้งกลางเทอมของสหรัฐฯ

ในเดือนมีนาคมที่ผ่านมา คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ซึ่งเป็นองค์กรอิสระ ได้เรียกร้องให้บริษัทเพิ่มความพยายามในการจัดการกับ "การแพร่กระจายของเนื้อหาหลอกลวงที่สร้างโดย AI" บนแพลตฟอร์มต่างๆ และลงทุนในเครื่องมือตรวจจับที่มีประสิทธิภาพสูงขึ้น