Story
Reuters เผย เครื่องมือตรวจจับภาพ AI ของ Meta พลาดระบุภาพจาก AI ของตัวเองกว่าครึ่งหลังถูกตัดส่วน
Summary
ผลการวิเคราะห์โดย Reuters พบว่าเครื่องมือตรวจจับภาพ AI ใหม่ของ Meta ไม่สามารถระบุภาพที่สร้างโดย AI ของบริษัทเองได้ถึง 55% หากภาพเหล่านั้นถูกตัดส่วนออกไป ซึ่งชี้ให้เห็นถึงความท้าทายในการต่อสู้กับข่าวปลอมและ deepfake
เครื่องมือตรวจจับภาพปัญญาประดิษฐ์ (AI) ใหม่จาก Meta ไม่สามารถระบุภาพจำนวนมากที่สร้างโดย AI ของบริษัทเองได้หลังจากถูกตัดแต่งภาพออกไป จากการวิเคราะห์โดยสำนักข่าว Reuters ซึ่งตอกย้ำถึงความท้าทายในการตรวจสอบเนื้อหาที่สร้างโดย AI ในช่วงเวลาที่การบิดเบือนข้อมูลเป็นเรื่องน่ากังวล
การค้นพบนี้อาจส่งผลกระทบต่อความพยายามในการระบุและควบคุมการแพร่กระจายของข้อมูลเท็จ (disinformation) และ deepfakes โดยเฉพาะอย่างยิ่งในช่วงที่มีการเลือกตั้งสำคัญทั่วโลก
การทดสอบพบช่องโหว่สำคัญ
ในการวิเคราะห์ภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดล Muse Image ของ Meta เอง Reuters พบว่าเครื่องมือตรวจจับสามารถระบุภาพต้นฉบับทั้งหมดได้ว่าเป็นภาพที่มาจาก AI อย่างถูกต้อง อย่างไรก็ตาม เครื่องมือกลับล้มเหลวในการระบุภาพเดียวกันถึง 55% หลังจากภาพเหล่านั้นถูกตัดส่วน (crop) ให้เหลือขนาดประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม
Meta ระบุบนเว็บไซต์ว่าเครื่องมือนี้ใช้ระบบลายน้ำที่มองไม่เห็นที่เรียกว่า Content Seal ซึ่งฝังอยู่ในทุกภาพที่สร้างจาก Muse Image เพื่อช่วยให้ผู้ใช้สามารถตรวจสอบที่มาของภาพได้ แม้ว่าจะมีการแก้ไขทั่วไป เช่น การตัดส่วนภาพก็ตาม
การตอบสนองของ Meta และมุมมองผู้เชี่ยวชาญ
Adเมื่อถูกสอบถามเกี่ยวกับผลการวิเคราะห์ของ Reuters ทาง Meta ได้ชี้แจงว่าเครื่องมือดังกล่าวยังคงเป็นเวอร์ชันทดลอง (preview) และระบุว่าแม้ลายน้ำจะถูกออกแบบมาให้ทนทานต่อการแก้ไขทั่วไป แต่สัญญาณอาจสูญหายไปได้หากภาพถูกตัดส่วนออกไปอย่างหนัก
ผู้เชี่ยวชาญด้าน AI ให้ความเห็นว่าเทคโนโลยีลายน้ำมีข้อจำกัด Siwei Lyu ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงสมบูรณ์ แต่การแก้ไขใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังไว้อ่อนลง เช่น การตัดส่วน การปรับขนาด หรือการบีบอัดไฟล์อย่างหนัก อาจลดทอนประสิทธิภาพลงได้"
ความท้าทายในยุค Deepfake
ช่องโหว่ที่พบนี้สะท้อนถึงความท้าทายในวงกว้างของอุตสาหกรรมเทคโนโลยีในการสร้างเครื่องมือที่สามารถตรวจจับเนื้อหาที่สร้างโดย AI ได้อย่างน่าเชื่อถือ โดยเฉพาะเมื่อเนื้อหาเหล่านั้นถูกดัดแปลงแก้ไข ซึ่งเป็นเทคนิคทั่วไปที่ใช้ในการสร้างและเผยแพร่ข้อมูลเท็จ ทั้งนี้ บริษัทเทคโนโลยีคู่แข่งอย่าง Google และ OpenAI ก็ได้ออกมายอมรับเช่นกันว่าเครื่องมือตรวจจับของตนยังไม่สมบูรณ์แบบ
ก่อนหน้านี้ในเดือนมีนาคม คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทดำเนินการมากขึ้นเพื่อจัดการกับ "การแพร่กระจายของเนื้อหาหลอกลวงที่สร้างโดย AI" และลงทุนในเครื่องมือตรวจจับที่มีประสิทธิภาพสูงขึ้น