ผลวิเคราะห์ Reuters: เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพที่สร้างโดยตัวเองหลังถูกครอบตัด

ผลการวิเคราะห์โดยสำนักข่าว Reuters พบว่าเครื่องมือตรวจจับภาพปัญญาประดิษฐ์ (AI) ใหม่ของ Meta ไม่สามารถระบุภาพจำนวนมากที่สร้างโดย AI ของบริษัทเองได้สำเร็จ หลังจากภาพเหล่านั้นผ่านการแก้ไขเบื้องต้นอย่างการครอบตัด (cropping) ซึ่งจุดประกายความกังวลเกี่ยวกับประสิทธิภาพในการต่อสู้กับข้อมูลบิดเบือนและ deepfake ในยุคดิจิทัล

การค้นพบนี้ชี้ให้เห็นถึงความท้าทายที่สำคัญสำหรับบริษัทเทคโนโลยีในการพัฒนาระบบที่สามารถยืนยันตัวตนของเนื้อหาที่สร้างโดย AI ได้อย่างน่าเชื่อถือ โดยเฉพาะอย่างยิ่งเมื่อมีการแก้ไขหรือดัดแปลงภาพ ซึ่งเป็นเรื่องที่เกิดขึ้นได้ทั่วไปบนโลกออนไลน์

ผลการทดสอบจาก Reuters

Reuters ได้ทำการวิเคราะห์ภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดล AI สร้างภาพล่าสุดของ Meta ที่มีชื่อว่า Muse Image ผลการทดสอบพบประเด็นสำคัญดังนี้:

• เครื่องมือตรวจจับสามารถระบุภาพต้นฉบับที่สร้างโดย AI ได้ทั้งหมด 100%
• แต่หลังจากนำภาพเดียวกันไปครอบตัดให้มีขนาดเล็กลงประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม เครื่องมือกลับล้มเหลวในการระบุภาพว่าเป็นภาพที่สร้างโดย AI ถึง 55%

Meta ระบุบนเว็บไซต์ว่าเครื่องมือนี้ใช้ระบบลายน้ำที่มองไม่เห็น (invisible watermark) ที่เรียกว่า Content Seal ซึ่งถูกฝังอยู่ในทุกภาพที่สร้างจาก Muse Image เพื่อช่วยให้ผู้ใช้สามารถตรวจสอบที่มาของภาพได้ แม้ว่าจะผ่านการแก้ไขทั่วไปแล้วก็ตาม

ความท้าทายในการต่อสู้กับ Deepfake

Ad

ความล้มเหลวในการตรวจจับภาพที่ถูกครอบตัดเน้นย้ำถึงข้อจำกัดของเทคโนโลยีปัจจุบัน ซึ่งอาจส่งผลกระทบอย่างมีนัยสำคัญต่อความสามารถในการระบุและจัดการกับเนื้อหาปลอมแปลง (deepfake) โดยเฉพาะในช่วงเวลาที่มีความอ่อนไหวทางการเมือง เช่น การเลือกตั้ง

เมื่อ Reuters สอบถามเกี่ยวกับผลการวิเคราะห์ Meta ชี้แจงว่าเครื่องมือดังกล่าวยังเป็นเวอร์ชันตัวอย่าง (preview) และยอมรับว่าสัญญาณลายน้ำอาจสูญหายไปหากภาพถูก "ครอบตัดอย่างหนัก" (heavily cropped)

มุมมองจากผู้เชี่ยวชาญและบริบทอุตสาหกรรม

ผู้เชี่ยวชาญด้าน AI ยอมรับว่าระบบที่พึ่งพาลายน้ำนั้นมีข้อจำกัด ซีเหวย์ หลู (Siwei Lyu) ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงอยู่ครบถ้วน แต่การแก้ไขใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังไว้อ่อนแอลง เช่น การครอบตัด การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจลดทอนประสิทธิภาพลงได้"

สถานการณ์นี้ไม่ได้เกิดขึ้นกับ Meta เพียงบริษัทเดียว บริษัทเทคโนโลยียักษ์ใหญ่อื่นๆ เช่น Google และ OpenAI ก็ได้ออกมายอมรับเช่นกันว่าเครื่องมือตรวจจับของตนยังไม่สามารถทำงานได้อย่างสมบูรณ์แบบและอาจถูกหลอกได้ด้วยเทคนิคการแก้ไขภาพต่างๆ ก่อนหน้านี้ คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ก็ได้เคยเรียกร้องให้บริษัทลงทุนพัฒนาเครื่องมือตรวจจับที่แข็งแกร่งขึ้นเพื่อรับมือกับการแพร่กระจายของเนื้อหาหลอกลวงที่สร้างโดย AI