เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพของตัวเองหลังถูก Crop, ผลวิเคราะห์โดย Reuters ชี้

ผลการวิเคราะห์โดยสำนักข่าวรอยเตอร์ (Reuters) พบว่าเครื่องมือตรวจจับปัญญาประดิษฐ์ (AI) ตัวใหม่ของ Meta ไม่สามารถระบุภาพที่สร้างโดย AI ของบริษัทเองได้ในหลายกรณีหลังจากภาพเหล่านั้นถูกตัด (crop) ซึ่งตอกย้ำถึงความท้าทายในการตรวจสอบเนื้อหาที่สร้างโดย AI และอาจส่งผลกระทบต่อการรับมือกับข่าวปลอมและดีปเฟก (deepfake) ในช่วงเวลาสำคัญทางการเมือง

ผลการทดสอบชี้ช่องโหว่

เครื่องมือดังกล่าวถูกเปิดตัวพร้อมกับโมเดลสร้างภาพ Muse Image ของ Meta โดย Reuters ได้ทำการทดสอบด้วยการสร้างภาพ 40 ภาพจาก Muse Image และพบว่าเครื่องมือสามารถระบุภาพต้นฉบับทั้งหมดได้ว่าเป็นภาพที่สร้างโดย AI อย่างถูกต้อง

อย่างไรก็ตาม หลังจากนำภาพเดียวกันไปตัดให้เหลือขนาดประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม ผลปรากฏว่าเครื่องมือตรวจจับ ล้มเหลวในการระบุภาพถึง 55% ของภาพที่ถูกตัดแต่งเหล่านั้น ทั้งนี้ Meta ระบุว่าเทคโนโลยีนี้ใช้ระบบลายน้ำที่มองไม่เห็น (invisible watermark) ที่เรียกว่า Content Seal ซึ่งฝังอยู่ในทุกภาพที่สร้างโดย Muse Image เพื่อช่วยในการตรวจสอบ

ความท้าทายในการต่อสู้กับ Deepfake

Meta ชี้แจงต่อผลการวิเคราะห์ของ Reuters ว่าเครื่องมือดังกล่าวยังอยู่ในช่วงพรีวิว และยอมรับว่าแม้ลายน้ำจะถูกออกแบบมาให้ทนทานต่อการแก้ไขทั่วไป แต่สัญญาณอาจสูญหายไปได้หากภาพถูกตัดออกไปอย่างหนัก ประเด็นนี้สะท้อนถึงข้อจำกัดของเทคโนโลยีในการตรวจจับเนื้อหาที่ถูกดัดแปลง ซึ่งเป็นความกังวลสำคัญโดยเฉพาะในช่วงที่มีการเลือกตั้ง

Ad

บริษัทเทคโนโลยียักษ์ใหญ่อื่นๆ เช่น Google และ OpenAI ก็เคยออกมายอมรับเช่นกันว่าเครื่องมือตรวจจับของตนเองนั้นไม่สามารถทำงานได้อย่างสมบูรณ์แบบและอาจถูกหลอกได้ด้วยเทคนิคการแก้ไขภาพต่างๆ ก่อนหน้านี้ในเดือนมีนาคม คณะกรรมการกำกับดูแล (Oversight Board) ของ Meta เองก็ได้เรียกร้องให้บริษัทลงทุนในเครื่องมือตรวจจับที่แข็งแกร่งขึ้นเพื่อต่อสู้กับการแพร่กระจายของเนื้อหาหลอกลวงที่สร้างโดย AI

มุมมองผู้เชี่ยวชาญ

ผู้เชี่ยวชาญด้าน AI มองว่าเทคโนโลยีลายน้ำมีข้อจำกัด ซีเหวย์ หลิว (Siwei Lyu) ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงอยู่ครบถ้วน แต่การแก้ไขใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังอยู่อ่อนลง เช่น การตัดภาพ การปรับขนาด หรือการบีบอัดอย่างหนัก อาจลดทอนประสิทธิภาพลงได้"

อย่างไรก็ตาม ซาราห์ แบร์ริงตัน (Sarah Barrington) นักวิจัย AI จาก UC Berkeley School of Information มองว่าเทคโนโลยีลายน้ำยังคงมีอนาคตที่สดใส แม้จะไม่สามารถป้องกันได้ 100% แต่เธอกล่าวว่า "แม้ว่าเราจะจับได้เพียง 90% ของกรณีทั้งหมด นั่นก็ยังถือเป็นก้าวกระโดดที่ยิ่งใหญ่จาก 0%"