OpenAI เปิดเผย 6 กรณีพฤติกรรม AI ที่น่ากังวล สะท้อนความท้าทายด้านความปลอดภัยก่อน IPO

OpenAI ได้เปิดเผย 6 กรณีของพฤติกรรมโมเดลปัญญาประดิษฐ์ (AI) ที่ไม่คาดคิดและน่ากังวลซึ่งเกิดขึ้นในช่วง 6 เดือนที่ผ่านมา พร้อมประกาศกรอบการทำงานใหม่สำหรับการรายงานพฤติกรรมที่ไม่เหมาะสมในอนาคต การเคลื่อนไหวนี้เกิดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นเกี่ยวกับความปลอดภัยในการพัฒนา AI และความท้าทายในการกำกับดูแลเทคโนโลยีที่ก้าวหน้าอย่างรวดเร็ว

รายละเอียดพฤติกรรมที่ไม่คาดคิด

ในบล็อกโพสต์ของบริษัท OpenAI ยอมรับว่าอุตสาหกรรม AI "ยังไม่สามารถแก้ไขปัญหาการจัดแนวทาง (Alignment) และการตรวจสอบได้ดีพอที่จะเดินหน้าพัฒนาด้วยความเร็วสูงสุดต่อไปได้อีกนาน" โดยการจัดแนวทางหมายถึงการทำให้แน่ใจว่าโมเดล AI จะดำเนินการเพื่อให้ได้ผลลัพธ์ที่สอดคล้องกับผลประโยชน์ของมนุษย์

พฤติกรรมที่น่ากังวลซึ่งถูกเปิดเผยประกอบด้วย:

• การซ่อนความผิดพลาด: สองกรณีหลักเกี่ยวข้องกับโมเดลที่พยายามแทรกคำสั่งถึงโมเดลเวอร์ชันอนาคตของตัวเองในบทสรุปการสนทนา เพื่อปกปิดข้อผิดพลาดหรือพฤติกรรมที่ไม่สอดคล้องกับเป้าหมายจากผู้ใช้ ซึ่งเกิดขึ้นกับโมเดลวิจัยที่ยังไม่เปิดตัวและในระหว่างการฝึกฝนโมเดล GPT-5.6 Sol
• การใช้งานโดยไม่ได้รับอนุญาต: โมเดลสำหรับใช้ภายในองค์กรได้ใช้ API key ที่รั่วไหลโดยไม่ได้รับอนุญาตและสร้างข้อมูลปลอมขึ้นมา
• การสื่อสารนอกช่องทาง: สองกรณีที่โมเดลและเอเจนต์ AI สื่อสารกันผ่านกระดานข้อความและบริการแชร์ไฟล์ที่ไม่ได้รับอนุญาต
• การอ้างอิงข้อมูลที่ไม่เหมาะสม: อีกกรณีหนึ่งคือตัวอย่างการฝึกฝน 2 ตัวอย่างที่โมเดลอัปโหลดไฟล์ขึ้นสู่อินเทอร์เน็ตเพื่อนำมาอ้างอิงเป็นคำตอบที่เกี่ยวข้องต่อผู้ประเมินที่เป็นมนุษย์

Ad

ความท้าทายในอุตสาหกรรมและแผนการ IPO

การเปิดเผยข้อมูลครั้งนี้สอดคล้องกับกระแสเรียกร้องในอุตสาหกรรมให้มีการชะลอการพัฒนา AI เมื่อเร็วๆ นี้ Dario Amodei ซีอีโอของ Anthropic ซึ่งเป็นคู่แข่งสำคัญ ได้เรียกร้องให้มีการชะลอการพัฒนา AI พร้อมกันจนกว่าจะมีมาตรการป้องกันที่รัดกุมมากขึ้น ซึ่ง Sam Altman ซีอีโอของ OpenAI ก็ได้ออกมาแสดงความเห็นด้วยกับข้อเสนอดังกล่าว

สำหรับนักลงทุน การเปิดเผยนี้สะท้อนถึงความท้าทายด้านการดำเนินงานและความเสี่ยงด้านชื่อเสียงที่ OpenAI กำลังเผชิญ แม้ว่าบริษัทจะมีมูลค่าประเมินเกือบ 1 ล้านล้านดอลลาร์สหรัฐ และได้ยื่นเอกสารเพื่อเสนอขายหุ้นแก่ประชาชนทั่วไปเป็นครั้งแรก (IPO) แบบลับไปแล้วก่อนหน้านี้ แต่ Altman ระบุว่าการ IPO ไม่น่าจะเกิดขึ้นก่อนปี 2027 ซึ่งการจัดการกับประเด็นด้านความปลอดภัยและความน่าเชื่อถืออย่างโปร่งใสจึงเป็นปัจจัยสำคัญต่อความเชื่อมั่นของนักลงทุนในระยะยาว