Story
ผลวิเคราะห์ Reuters: เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพที่ถูกตัดต่อจาก AI ของตัวเอง
Summary
เครื่องมือตรวจจับภาพ AI ใหม่ของ Meta ไม่สามารถระบุภาพที่สร้างโดย AI ของตนเองได้กว่าครึ่งหนึ่งหลังจากถูกตัดส่วนออกไป ตามการวิเคราะห์ของ Reuters ซึ่งชี้ให้เห็นถึงความท้าทายในการต่อสู้กับข้อมูลเท็จ
ผลการวิเคราะห์ล่าสุดโดยสำนักข่าว Reuters พบว่าเครื่องมือตรวจจับปัญญาประดิษฐ์ (AI) ตัวใหม่ของ Meta ล้มเหลวในการระบุภาพที่สร้างโดย AI ของตนเองเป็นจำนวนมากหลังจากที่ภาพเหล่านั้นถูกตัดส่วนออกไป (cropping) การค้นพบนี้จุดประกายความกังวลเกี่ยวกับประสิทธิภาพของเทคโนโลยีในการต่อสู้กับข้อมูลเท็จและ "deepfakes" ในช่วงเวลาที่กำลังมีการเลือกตั้งสำคัญทั่วโลก
ผลการทดสอบชี้ช่องโหว่
เครื่องมือตรวจจับดังกล่าวถูกเปิดตัวพร้อมกับโมเดลสร้างภาพ Muse Image ของ Meta โดย Reuters ได้ทำการวิเคราะห์ภาพที่สร้างจาก Muse Image จำนวน 40 ภาพ และพบว่า
- เครื่องมือสามารถระบุภาพต้นฉบับทั้งหมดที่สร้างโดย AI ได้อย่างถูกต้อง
- อย่างไรก็ตาม เครื่องมือกลับล้มเหลวในการระบุภาพเดียวกันถึง 55% หลังจากที่ภาพเหล่านั้นถูกตัดให้มีขนาดเล็กลงเหลือประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม
Meta ระบุบนเว็บไซต์ว่าเครื่องมือนี้ใช้ระบบลายน้ำที่มองไม่เห็น (invisible watermarking) ที่เรียกว่า Content Seal ซึ่งฝังอยู่ในทุกภาพที่สร้างจาก Muse Image และถูกออกแบบมาเพื่อช่วยให้ผู้ใช้ตรวจสอบได้ว่าภาพนั้นถูกสร้างโดยโมเดล AI ของ Meta หรือไม่ แม้จะผ่านการแก้ไขทั่วไปก็ตาม
คำชี้แจงจาก Meta และมุมมองผู้เชี่ยวชาญ
Adเมื่อสอบถามเกี่ยวกับผลการวิเคราะห์ของ Reuters ทาง Meta ชี้แจงว่าเครื่องมือดังกล่าวยังเป็นเวอร์ชันตัวอย่าง (preview) และยอมรับว่าลายน้ำถูกออกแบบมาให้คงอยู่หลังการแก้ไขทั่วไป แต่สัญญาณอาจสูญหายไปได้หากภาพถูกตัดออกไปอย่างหนัก ซึ่งสอดคล้องกับคำเตือนจากบริษัทเทคโนโลยีคู่แข่งอย่าง Google และ OpenAI ที่ระบุว่าเครื่องมือตรวจจับของตนก็ไม่สามารถป้องกันการดัดแปลงภาพได้ทั้งหมด
ซีเหวย์ ลวี่ (Siwei Lyu) ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงอยู่ครบถ้วน แต่การแก้ไขใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังอยู่อ่อนแอลง เช่น การตัดส่วน, การปรับขนาด, การบีบอัดไฟล์อย่างหนัก อาจลดทอนประสิทธิภาพลงได้"
ความท้าทายในการกำกับดูแลเนื้อหา AI
การค้นพบนี้ตอกย้ำถึงความท้าทายในการตรวจสอบและยืนยันเนื้อหาที่สร้างโดย AI หลังจากผ่านการดัดแปลงเพียงเล็กน้อย ซึ่งเป็นความเสี่ยงสำคัญโดยเฉพาะในช่วงปีที่มีการเลือกตั้ง เนื่องจากอาจมีการใช้ deepfakes เพื่อสร้างความเข้าใจผิดและส่งผลกระทบต่อความคิดเห็นของสาธารณชน
ก่อนหน้านี้ในเดือนมีนาคม คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทลงทุนในเครื่องมือตรวจจับที่มีประสิทธิภาพสูงขึ้นเพื่อรับมือกับ "การแพร่กระจายของเนื้อหาหลอกลวงที่สร้างโดย AI" เหตุการณ์นี้จึงสะท้อนถึงการแข่งขันทางเทคโนโลยีที่ยังดำเนินอยู่ระหว่างความสามารถในการสร้างเนื้อหา AI และความสามารถในการตรวจจับ ซึ่งเป็นปัจจัยที่นักลงทุนต้องจับตามองอย่างใกล้ชิดในกลุ่มอุตสาหกรรมเทคโนโลยี