ผลวิเคราะห์ Reuters: เครื่องมือตรวจจับภาพ AI ของ Meta ล้มเหลวในการระบุภาพ AI ของตัวเองที่ถูกตัด

เครื่องมือตรวจจับปัญญาประดิษฐ์ (AI) ใหม่จาก Meta ไม่สามารถระบุภาพบางส่วนที่สร้างโดย AI ของบริษัทเองได้หลังจากถูกตัดแต่ง (crop) ตามการวิเคราะห์ของสำนักข่าว Reuters การค้นพบนี้ชี้ให้เห็นถึงความท้าทายสำคัญในการตรวจสอบและยืนยันภาพที่สร้างโดย AI ซึ่งอาจถูกดัดแปลงแก้ไขได้ง่าย

ผลการวิเคราะห์ของ Reuters

Reuters ได้ทำการวิเคราะห์ภาพจำนวน 40 ภาพที่สร้างขึ้นโดยใช้โมเดล Muse Image ของ Meta และพบว่าเครื่องมือตรวจจับสามารถระบุภาพต้นฉบับทั้งหมดที่สร้างโดย AI ได้อย่างถูกต้อง อย่างไรก็ตาม เครื่องมือดังกล่าวกลับล้มเหลวในการระบุภาพเดียวกันถึง 55% หลังจากที่ภาพเหล่านั้นถูกตัดออกไปประมาณหนึ่งในสามถึงครึ่งหนึ่งของขนาดเดิม

Meta ระบุบนเว็บไซต์ว่าเครื่องมือนี้ ซึ่งอยู่ในช่วงพรีวิว สามารถระบุภาพที่สร้างโดย AI ของตนเองได้แม้จะถูกตัดแต่ง ผ่านระบบลายน้ำที่มองไม่เห็นที่เรียกว่า Content Seal ซึ่งจะถูกฝังอยู่ในทุกภาพที่สร้างจาก Muse Image เพื่อช่วยให้ผู้ใช้ตรวจสอบแหล่งที่มาได้

ข้อจำกัดทางเทคนิคและมุมมองผู้เชี่ยวชาญ

เมื่อสอบถามเกี่ยวกับผลการวิเคราะห์ของ Reuters ทาง Meta ชี้แจงว่าเครื่องมือดังกล่าวยังเป็นเพียงเวอร์ชันพรีวิว และแม้ว่าลายน้ำจะถูกออกแบบมาให้ทนทานต่อการแก้ไขทั่วไป แต่สัญญาณอาจสูญหายไปได้หากภาพถูกตัดออกไปมากเกินไป บริษัทเทคโนโลยีคู่แข่งอย่าง Google และ OpenAI ก็ยอมรับเช่นกันว่าเครื่องมือตรวจจับของพวกเขายังไม่สมบูรณ์แบบ

Ad

Siwei Lyu ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จาก State University of New York at Buffalo กล่าวว่า "วิธีการที่ใช้ลายน้ำจะมีประสิทธิภาพสูงเมื่อลายน้ำยังคงอยู่ครบถ้วน แต่การแก้ไขใดๆ ที่ลบหรือทำให้สัญญาณที่ฝังไว้อ่อนลง เช่น การตัดภาพ การปรับขนาด การบีบอัดอย่างหนัก อาจลดทอนประสิทธิภาพลงได้"

ความท้าทายในยุคแห่งข้อมูลข่าวสาร

ความสามารถในการตรวจจับเนื้อหาที่สร้างโดย AI กลายเป็นประเด็นสำคัญ โดยเฉพาะในช่วงปีที่มีการเลือกตั้ง ซึ่งมีความกังวลเกี่ยวกับการแพร่กระจายของข้อมูลเท็จและภาพตัดต่อลวงลึก (deepfakes) ก่อนหน้านี้ในเดือนมีนาคม คณะกรรมการกำกับดูแลของ Meta (Oversight Board) ได้เรียกร้องให้บริษัทลงทุนในเครื่องมือตรวจจับที่แข็งแกร่งขึ้นเพื่อรับมือกับ "การแพร่กระจายของเนื้อหา AI ที่หลอกลวง" บนแพลตฟอร์ม

สำหรับนักลงทุน เหตุการณ์นี้ตอกย้ำถึงความท้าทายทางเทคโนโลยีและกฎระเบียบที่บริษัทเทคโนโลยีขนาดใหญ่ต้องเผชิญ ความล้มเหลวในการควบคุมเนื้อหาที่สร้างโดย AI อาจนำไปสู่ความเสี่ยงด้านชื่อเสียงและแรงกดดันจากหน่วยงานกำกับดูแลในอนาคต