ผลวิเคราะห์ Reuters: เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพที่สร้างโดยตัวเองหลังถูกครอบตัด

เครื่องมือตรวจจับภาพปัญญาประดิษฐ์ (AI) ใหม่จาก Meta Platforms ล้มเหลวในการระบุภาพที่สร้างโดย AI ของบริษัทเองจำนวนมาก หลังจากภาพเหล่านั้นถูกแก้ไขด้วยการครอบตัด (crop) ตามการวิเคราะห์ล่าสุดของสำนักข่าว Reuters การค้นพบนี้เน้นย้ำถึงความท้าทายในการตรวจสอบและยืนยันเนื้อหาที่สร้างโดย AI ซึ่งอาจส่งผลกระทบต่อความพยายามในการต่อสู้กับข้อมูลเท็จและภาพลวงลึก (deepfake) ในโลกออนไลน์

ผลการวิเคราะห์ชี้ช่องโหว่

Reuters ได้ทำการทดสอบภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดล Muse Image ของ Meta และนำไปตรวจสอบด้วยเครื่องมือตรวจจับใหม่ของบริษัท ผลปรากฏว่าเครื่องมือสามารถระบุภาพต้นฉบับทั้งหมดที่สร้างโดย AI ได้อย่างถูกต้อง

อย่างไรก็ตาม ปัญหาเกิดขึ้นเมื่อภาพเหล่านั้นถูกนำไปครอบตัดให้เหลือขนาดประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม ผลการวิเคราะห์พบว่าเครื่องมือตรวจจับ ล้มเหลวในการระบุภาพที่ถูกครอบตัดว่าเป็นภาพจาก AI ถึง 55% ของภาพทั้งหมดที่ทดสอบ

เทคโนโลยีของ Meta ใช้ระบบลายน้ำที่มองไม่เห็น (invisible watermarking) ที่เรียกว่า Content Seal ซึ่งฝังอยู่ในทุกภาพที่สร้างจาก Muse Image โดยมีเป้าหมายเพื่อให้สามารถตรวจสอบย้อนกลับได้แม้ภาพจะถูกแก้ไข แต่ผลการทดสอบชี้ให้เห็นว่าการแก้ไขทั่วไปอย่างการครอบตัดอย่างหนักก็สามารถทำลายสัญญาณลายน้ำนี้ได้

ความท้าทายในอุตสาหกรรมเทคโนโลยี

Ad

โฆษกของ Meta กล่าวถึงผลการวิเคราะห์ของ Reuters โดยชี้แจงว่าเครื่องมือดังกล่าวยังอยู่ในช่วงพรีวิว (preview) และยอมรับว่าสัญญาณลายน้ำอาจสูญหายไปได้หากรูปภาพถูกครอบตัดอย่างหนัก (heavily cropped)

ปัญหานี้ไม่ได้จำกัดอยู่แค่ที่ Meta เท่านั้น บริษัทเทคโนโลยียักษ์ใหญ่อื่นๆ เช่น Google และ OpenAI ก็เคยออกมายอมรับว่าเครื่องมือตรวจจับของตนเองนั้นไม่สามารถทำงานได้อย่างสมบูรณ์แบบและยังมีช่องโหว่ต่อเทคนิคการแก้ไขภาพต่างๆ สถานการณ์นี้สร้างความกังวล โดยเฉพาะในช่วงเวลาที่มีความอ่อนไหวทางการเมือง เช่น ปีแห่งการเลือกตั้ง ซึ่งการแพร่กระจายของ Deepfake อาจสร้างความสับสนและส่งผลกระทบในวงกว้าง

มุมมองจากผู้เชี่ยวชาญ

ผู้เชี่ยวชาญด้าน AI ได้ให้ความเห็นว่าเทคโนโลยีลายน้ำนั้นมีข้อจำกัด ซือเหว่ย หลู่ (Siwei Lyu) ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงอยู่ครบถ้วน แต่การแก้ไขใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังไว้อ่อนแอลง เช่น การครอบตัด การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจลดทอนประสิทธิภาพลงได้"

ก่อนหน้านี้ในเดือนมีนาคม คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทลงทุนในเครื่องมือตรวจจับที่แข็งแกร่งขึ้น เพื่อรับมือกับการแพร่กระจายของเนื้อหาหลอกลวงที่สร้างโดย AI บนแพลตฟอร์มของตนเอง ซึ่งการค้นพบล่าสุดนี้ตอกย้ำถึงความจำเป็นเร่งด่วนดังกล่าว