Story
ผลวิเคราะห์ Reuters: เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพของตัวเองที่ถูกตัดแต่ง
Summary
เครื่องมือใหม่ของ Meta ล้มเหลวในการระบุภาพที่สร้างโดย AI ของตนเองกว่าครึ่งหนึ่งหลังจากถูกตัดแต่งภาพ ตามการวิเคราะห์ของ Reuters ซึ่งชี้ให้เห็นถึงความท้าทายในการต่อสู้กับข้อมูลบิดเบือนและ Deepfake
เครื่องมือตรวจจับภาพปัญญาประดิษฐ์ (AI) ใหม่จาก Meta ล้มเหลวในการระบุภาพที่สร้างโดย AI ของบริษัทเอง หลังจากที่ภาพเหล่านั้นถูกตัดแต่ง (crop) ตามการวิเคราะห์ของสำนักข่าว Reuters การค้นพบนี้เน้นย้ำถึงความท้าทายในการตรวจสอบเนื้อหาที่สร้างโดย AI ซึ่งอาจส่งผลกระทบต่อความสามารถในการระบุข่าวปลอมและ Deepfake ในช่วงเวลาสำคัญทางการเมือง
ผลการวิเคราะห์พบช่องโหว่
จากการวิเคราะห์ภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดล Muse Image ของ Meta สำนักข่าว Reuters พบว่าเครื่องมือตรวจจับสามารถระบุภาพต้นฉบับทั้งหมดที่สร้างโดย AI ได้อย่างถูกต้อง แต่กลับล้มเหลวในการตรวจสอบภาพเดียวกันถึง 55% หลังจากที่ภาพเหล่านั้นถูกตัดให้เหลือขนาดประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม
Meta ระบุว่าเครื่องมือนี้ซึ่งยังอยู่ในขั้นพรีวิว ใช้ระบบลายน้ำที่มองไม่เห็นที่เรียกว่า Content Seal ซึ่งฝังอยู่ในทุกภาพที่สร้างจาก Muse Image เพื่อช่วยให้ผู้ใช้สามารถตรวจสอบที่มาได้ อย่างไรก็ตาม ทางบริษัทชี้แจงว่าแม้ลายน้ำจะถูกออกแบบมาให้ทนทานต่อการแก้ไขทั่วไป แต่สัญญาณอาจสูญหายไปได้หากภาพถูกตัดแต่งอย่างหนัก
Adความท้าทายในการตรวจจับ Deepfake
ข้อจำกัดของเทคโนโลยีนี้สะท้อนให้เห็นถึงความยากลำบากในการต่อสู้กับการแพร่กระจายของเนื้อหาที่สร้างโดย AI ซึ่งอาจถูกนำไปใช้ในทางที่ผิด โดยเฉพาะในช่วงที่มีการเลือกตั้งสำคัญ เช่น การเลือกตั้งกลางเทอมของสหรัฐฯ ทั้งนี้ บริษัทเทคโนโลยียักษ์ใหญ่อย่าง Google และ OpenAI ก็ยอมรับเช่นกันว่าเครื่องมือของพวกเขายังไม่สามารถป้องกันการดัดแปลงภาพได้อย่างสมบูรณ์
Siwei Lyu ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า ระบบที่ใช้ลายน้ำมีประสิทธิภาพสูงเมื่อลายน้ำยังคงสมบูรณ์ แต่การดัดแปลงใดๆ เช่น การตัดภาพ การปรับขนาด หรือการบีบอัดอย่างหนัก อาจลดทอนประสิทธิภาพลงได้ ในขณะที่คณะกรรมการกำกับดูแลของ Meta เองก็ได้เรียกร้องให้บริษัทลงทุนในเครื่องมือตรวจจับที่แข็งแกร่งยิ่งขึ้นเพื่อรับมือกับปัญหานี้