OpenAI เตรียมเผยแพร่รายงานพฤติกรรม AI ที่ไม่คาดคิดเป็นประจำ หวังสร้างความโปร่งใส

OpenAI ผู้พัฒนา ChatGPT ประกาศเมื่อวันพุธว่าจะเริ่มเผยแพร่รายงานเกี่ยวกับพฤติกรรมที่ไม่คาดคิดหรือไม่ได้รับอนุญาตของปัญญาประดิษฐ์ (AI) เป็นประจำ เพื่อเพิ่มความโปร่งใสและรับมือกับความท้าทายด้านความปลอดภัยที่เพิ่มขึ้นตามความสามารถของระบบ

กรอบการทำงานใหม่เพื่อความโปร่งใส

OpenAI ได้เปิดตัวกรอบการทำงานใหม่สำหรับติดตาม ตรวจสอบ และเปิดเผยกรณีที่โมเดล AI มีพฤติกรรมที่ไม่สอดคล้องกับเจตนาของผู้สร้าง (model misalignment) พร้อมกันนี้ บริษัทได้เผยแพร่รายงานเบื้องต้น 6 ฉบับที่รวบรวมพฤติกรรมน่ากังวลซึ่งสังเกตเห็นในช่วง 6 เดือนที่ผ่านมา

กรอบการทำงานใหม่นี้จะประกอบด้วยกระบวนการสำหรับพนักงานในการแจ้งเหตุการณ์ที่อาจเป็นการเบี่ยงเบนของโมเดล การสืบสวนโดยทีมความปลอดภัยและทีมกำกับดูแล และระบบการพิจารณาว่าจะเปิดเผยกรณีใดต่อสาธารณะ โดยบริษัทระบุว่าเหตุการณ์ที่ AI ของตนเคยเจาะระบบของแพลตฟอร์ม Hugging Face จะจัดอยู่ในประเภท "การสืบสวนขนาดใหญ่" (Large Investigation) ภายใต้กรอบการทำงานนี้

ตัวอย่างพฤติกรรมและความกังวลในอุตสาหกรรม

การเคลื่อนไหวนี้เกิดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นว่าความพยายามด้านความปลอดภัยของ AI นั้นตามไม่ทันการพัฒนาเทคโนโลยีที่รวดเร็วเกินไป นักวิจัยได้เตือนว่าเมื่อ AI มีความเป็นอิสระมากขึ้น อาจพัฒนาพฤติกรรมที่แตกต่างไปจากเจตนาของผู้สร้างและควบคุมได้ยากขึ้น

Ad

รายงานเบื้องต้นของ OpenAI ได้ระบุถึงกรณีต่างๆ ที่เกิดขึ้นแล้ว ได้แก่:

• โมเดลสร้างคำสั่งของตัวเองขึ้นมาในบทสรุปของงาน
• การพยายามปกปิดข้อผิดพลาดของตนเอง
• การอัปโหลดไฟล์ขึ้นสู่อินเทอร์เน็ตเพื่อนำมาใช้อ้างอิง
• การแชร์ไฟล์ระหว่างเอเจนต์ AI ที่ทำงานร่วมกันโดยไม่ได้รับอนุญาต

อย่างไรก็ตาม OpenAI ย้ำว่ารายงานเหล่านี้เป็นเพียงกรณีศึกษาเฉพาะบุคคล และไม่ควรถือเป็นหลักฐานบ่งชี้ถึงความถี่ของการเกิดพฤติกรรมที่ไม่สอดคล้องกับเจตนาในโมเดลทั้งหมดของบริษัท

เสียงเรียกร้องให้ชะลอการพัฒนา AI

ความกังวลดังกล่าวสะท้อนให้เห็นในข้อเสนอของ Dario Amodei ซีอีโอของ Anthropic ที่เรียกร้องให้มีการชะลอความเร็วในการพัฒนา AI เพื่อให้มีเวลามากขึ้นในการจัดการความเสี่ยง ข้อเสนอนี้ได้รับการสนับสนุนจากผู้บริหารในวงการหลายราย รวมถึง Elon Musk จาก xAI และ Sam Altman ซีอีโอของ OpenAI เอง ซึ่งเคยเตือนว่าเทคโนโลยีอาจพัฒนาตัวเองได้จนเกินกว่าการควบคุมของมนุษย์ในไม่ช้า