ผลวิเคราะห์ Reuters: เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพของตัวเองหลังถูกครอบตัด

เครื่องมือตรวจจับปัญญาประดิษฐ์ (AI) ตัวใหม่จาก Meta ไม่สามารถระบุภาพบางส่วนที่สร้างโดย AI ของบริษัทเองได้หลังจากถูกครอบตัด (crop) ตามการวิเคราะห์ของสำนักข่าว Reuters การค้นพบนี้เน้นย้ำถึงความท้าทายในการตรวจสอบเนื้อหาที่สร้างโดย AI ซึ่งอาจส่งผลกระทบต่อความสามารถในการระบุสื่อสังเคราะห์เพื่อหลอกลวง (deepfake) ในโลกออนไลน์

ผลการวิเคราะห์ของ Reuters

จากการวิเคราะห์ภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดล Muse Image ของ Meta สำนักข่าว Reuters พบว่าเครื่องมือตรวจจับสามารถตรวจสอบและยืนยันภาพต้นฉบับที่สร้างโดย AI ได้ทั้งหมด แต่กลับล้มเหลวในการตรวจสอบภาพเดียวกันถึง 55% หลังจากที่ภาพเหล่านั้นถูกครอบตัดให้เหลือขนาดประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม

Meta ระบุว่าเครื่องมือนี้ ซึ่งยังอยู่ในช่วงพรีวิว ใช้ระบบลายน้ำที่มองไม่เห็น (invisible watermark) ที่เรียกว่า Content Seal ซึ่งฝังอยู่ในทุกภาพที่สร้างโดย Muse Image เพื่อช่วยให้ผู้ใช้สามารถตรวจสอบได้ว่าภาพนั้นถูกสร้างโดยโมเดล AI ของ Meta หรือไม่

ความท้าทายทางเทคโนโลยีและผลกระทบ

โฆษกของ Meta กล่าวถึงผลการวิเคราะห์ว่า เครื่องมือดังกล่าวยังเป็นเวอร์ชันพรีวิว และยอมรับว่าสัญญาณจากลายน้ำอาจสูญหายไปได้หากภาพถูกครอบตัดอย่างหนัก กรณีนี้ชี้ให้เห็นถึงข้อจำกัดทางเทคโนโลยีที่อาจทำให้การระบุเนื้อหาปลอมทำได้ยากขึ้น โดยเฉพาะในช่วงเวลาสำคัญทางการเมือง เช่น การเลือกตั้ง

Ad

บริษัทเทคโนโลยียักษ์ใหญ่อื่นๆ เช่น Google และ OpenAI ก็เคยออกมายอมรับเช่นกันว่าเครื่องมือตรวจจับของพวกเขายังไม่สามารถทำงานได้อย่างสมบูรณ์แบบและอาจถูกหลอกได้ด้วยเทคนิคการปรับแต่งภาพต่างๆ ก่อนหน้านี้ คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทเพิ่มความพยายามในการจัดการกับ "การแพร่กระจายของเนื้อหาหลอกลวงที่สร้างโดย AI" และลงทุนในเครื่องมือตรวจจับที่แข็งแกร่งขึ้น

มุมมองจากผู้เชี่ยวชาญ

ผู้เชี่ยวชาญด้าน AI ชี้ว่าเทคนิคที่ใช้ลายน้ำนั้นมีข้อจำกัด แม้จะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงสภาพสมบูรณ์ แต่การดัดแปลงใดๆ เช่น การครอบตัด การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจทำให้ประสิทธิภาพลดลงได้

• ศ.ซีเหว่ย หลิว จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำอาจมีประสิทธิภาพลดลง ขึ้นอยู่กับว่าลายน้ำถูกออกแบบมาอย่างไร เมื่อมีการดัดแปลงที่ลบหรือทำให้สัญญาณที่ฝังอยู่อ่อนแอลง"
• ซาราห์ แบร์ริงตัน นักวิจัย AI จาก UC Berkeley School of Information มองว่า แม้เทคโนโลยีลายน้ำอาจไม่สามารถป้องกันได้ 100% แต่ก็ยังถือเป็นก้าวสำคัญ "แม้ว่าเราจะจับได้เพียง 90% ของกรณีทั้งหมด นั่นก็ยังเป็นการพัฒนาที่ยิ่งใหญ่จาก 0%" เธอกล่าว