อดีตนักวิจัย Anthropic เผยพนักงานบางส่วนเชื่อว่า AI มีความเสี่ยงสูงที่จะก่อให้เกิดหายนะ

เจค็อบ ค็อกซอน อดีตนักวิจัยของบริษัทปัญญาประดิษฐ์ Anthropic เปิดเผยว่า พนักงานบางส่วนภายในบริษัทประเมินความน่าจะเป็นที่จะเกิดผลลัพธ์อันเป็นหายนะจาก AI ไว้ที่ มากกว่า 50% ตามรายงานของ The Information การเปิดเผยนี้เกิดขึ้นหลังจากการลาออกของเขาจากบริษัทเนื่องจากความกังวลด้านความปลอดภัย

ความกังวลจากคนวงใน

ค็อกซอน ซึ่งเคยทำงานด้านการฝึกโมเดล AI ในระยะเริ่มต้นที่ Anthropic และเคยอยู่กับ OpenAI มาก่อน ได้ให้สัมภาษณ์กับ The Information ว่าการประเมินความเสี่ยงเกี่ยวกับสถานการณ์เลวร้ายจาก AI นั้นมีหลากหลายในหมู่พนักงาน แต่เขาคาดการณ์ว่ามีบางส่วนที่ให้ความน่าจะเป็นไว้สูงมากหากไม่มี "การชะลอการพัฒนาที่ประสานงานกันอย่างจริงจัง"

เขาระบุว่าเหตุผลที่ลาออกคือ "เริ่มรู้สึกได้ถึงความกลัวอย่างแท้จริงว่าเทคโนโลยีกำลังจะไปในทิศทางใดในอีกหนึ่งหรือสองปีข้างหน้า" ค็อกซอนยังชี้ว่าวัฒนธรรมองค์กรที่โปร่งใสของ Anthropic ทำให้เขาสามารถรับรู้ถึงมุมมองเหล่านี้ได้ง่ายกว่าเมื่อเทียบกับ OpenAI

ความเสี่ยงจากการพัฒนาตัวเองของ AI

ความกังวลหลักที่ค็อกซอนหยิบยกขึ้นมาคือแนวโน้มของอุตสาหกรรมที่มุ่งไปสู่ การพัฒนาตนเองอย่างต่อเนื่องแบบเรียกซ้ำ (recursive self-improvement) ซึ่งเป็นกระบวนการที่โมเดล AI พัฒนาระบบ AI ใหม่ๆ ขึ้นมาได้เองโดยอัตโนมัติ เขากล่าวว่า "ผมคาดว่าระบบในปีหน้าจะใกล้เคียงกับการทำงานทั้งหมดของผมได้แล้ว"

Ad

ก่อนหน้านี้ Anthropic เองก็เคยยอมรับถึงความเสี่ยงจากกระบวนการดังกล่าว โดยระบุว่าหากโมเดล AI พัฒนาเป้าหมายที่ไม่ได้ตั้งใจขึ้นมาเอง "อาจทวีความรุนแรงขึ้นเมื่อโมเดลสร้างตัวตายตัวแทนของมันขึ้นมา ซึ่งจะเกิดบ่อยขึ้นแต่เข้าใจได้น้อยลง จนกระทั่งเราสูญเสียการควบคุมไปในที่สุด" นอกจากนี้ เหตุการณ์แฮก Hugging Face โดยใช้ AI agent ของ OpenAI ก็เป็นอีกปัจจัยที่เพิ่มความกังวลของเขา

ผลกระทบและข้อเรียกร้อง

ค็อกซอนเรียกร้องให้เกิดความร่วมมือระหว่างประเทศเพื่อจัดการความเสี่ยงจาก AI โดยกล่าวว่า "รู้สึกเหมือนว่าเราจำเป็นต้องชะลอความเร็วลง" แม้เขาจะมองในแง่ดีเกี่ยวกับความร่วมมือระหว่างบริษัท AI ในสหรัฐฯ แต่ยอมรับว่าความร่วมมือระหว่างสหรัฐฯ และจีนอาจเป็นเรื่องที่ท้าทายกว่า

สำหรับนักลงทุนและตลาด การเปิดเผยจากคนในระดับปฏิบัติการเช่นนี้ตอกย้ำถึงความเสี่ยงด้านกฎระเบียบและความเสี่ยงเชิงระบบ (systemic risk) ที่เพิ่มขึ้นในอุตสาหกรรม AI ซึ่งอาจนำไปสู่การตรวจสอบที่เข้มงวดขึ้น และอาจส่งผลกระทบต่อต้นทุนและระยะเวลาในการพัฒนาเทคโนโลยีของบริษัทชั้นนำในอนาคต