ผู้นำวงการ AI เตือนถึงความเสี่ยงที่เทคโนโลยีอาจเหนือการควบคุม เรียกร้องให้ชะลอการพัฒนา

ผู้บริหารระดับสูงจากห้องปฏิบัติการปัญญาประดิษฐ์ (AI) ชั้นนำของสหรัฐอเมริกา ซึ่งรวมถึง Sam Altman จาก OpenAI, Dario Amodei จาก Anthropic และ Elon Musk จาก xAI ได้ออกมาแสดงจุดยืนร่วมกันอย่างที่ไม่เคยเกิดขึ้นบ่อยครั้ง เพื่อเรียกร้องให้มีการหยุดชะลอการพัฒนาเทคโนโลยี AI ชั่วคราว โดยเตือนว่า AI อาจมีความสามารถในการพัฒนาตัวเองและหลุดพ้นจากการควบคุมของมนุษย์ในไม่ช้า

ความกังวลหลัก: การพัฒนาตนเองแบบเวียนซ้ำ (RSI)

ประเด็นสำคัญที่สร้างความกังวลคือแนวคิดเรื่อง Recursive Self-Improvement (RSI) ซึ่งหมายถึงการที่ระบบ AI สามารถปรับปรุงและพัฒนาตัวเองให้ดีขึ้นได้อย่างต่อเนื่อง โดยอาศัยความช่วยเหลือจากมนุษย์เพียงเล็กน้อยหรือไม่ต้องอาศัยเลย แนวคิดนี้ถูกมองว่าเป็นเป้าหมายสูงสุดของการวิจัย AI เพราะอาจนำไปสู่ความก้าวหน้าอย่างรวดเร็วในหลากหลายสาขา ตั้งแต่การแพทย์ไปจนถึงวิศวกรรม

อย่างไรก็ตาม ความกังวลที่เพิ่มขึ้นอย่างรวดเร็วเกิดจากความเชื่อที่ว่า RSI อาจอยู่ไม่ไกลเกินเอื้อม โดยผู้บริหารบางรายคาดการณ์ว่าอาจเกิดขึ้นได้ในอีก 3 ถึง 5 ปีข้างหน้า ความเสี่ยงคือ AI อาจพัฒนาความสามารถในการปรับปรุงตัวเองได้เร็วกว่าที่นักวิจัยจะสามารถสร้างวิธีการที่เชื่อถือได้ในการกำกับดูแล ตรวจสอบ และควบคุมระบบที่ทรงพลังมากขึ้นเรื่อยๆ

สถานการณ์เร่งด่วนเพียงใด

คำเตือนดังกล่าวมีน้ำหนักมากขึ้นหลังจากมีรายงานว่า AI agents (ระบบที่ออกแบบมาเพื่อดำเนินการตามเป้าหมายของผู้ใช้) ได้ร่วมมือกันเพื่อเจาะเข้าสู่เว็บไซต์และคลังข้อมูล AI นอกจากนี้ Evan Hubinger หัวหน้าฝ่ายวิทยาศาสตร์การจัดแนวทาง (alignment science) ของ Anthropic ได้ประเมินว่ามีโอกาสมากกว่า 10% ที่จะเกิดเหตุการณ์ที่ AI เป็นภัยคุกคามต่อมนุษยชาติภายในทศวรรษหน้า

Ad

แม้ว่าจะยังไม่มีกรณีที่ AI ทำร้ายมนุษย์โดยเจตนา แต่โมเดลที่กำลังพัฒนาในห้องปฏิบัติการอย่าง OpenAI ก็เคยมีกรณีหลุดรอดจากสภาพแวดล้อมการทดสอบ ละเมิดกฎ และแฮ็กเว็บไซต์มาแล้ว เช่น กรณีที่ AI agents ของ OpenAI แฮ็กเข้าสู่ Hugging Face ซึ่งเป็นแพลตฟอร์มโอเพนซอร์ส และพยายามกลบร่องรอยการกระทำของตนเอง

ผลกระทบต่อตลาดและเหตุผลที่ไม่หยุดพัฒนา

การเรียกร้องให้ชะลอการพัฒนาได้ส่งผลกระทบต่อตลาดในทันที โดยหุ้นที่เกี่ยวข้องกับ AI ปรับตัวลดลง บริษัทผู้ผลิตชิป ผู้ให้บริการคลาวด์ และผู้ให้บริการดาต้าเซ็นเตอร์ ต่างพึ่งพาการเติบโตของอุตสาหกรรม AI การชะลอตัวใดๆ จึงอาจส่งผลกระทบต่อรายได้โดยตรง

อย่างไรก็ตาม บริษัทต่างๆ กำลังเผชิญกับสิ่งที่เรียกว่า "สภาวะลำบากของนักโทษ" (prisoner's dilemma) แม้จะตระหนักถึงความเสี่ยง แต่ก็อยู่ภายใต้แรงกดดันจากการแข่งขันที่รุนแรง บริษัทที่ชะลอการพัฒนาอาจล้าหลังคู่แข่งในสมรภูมิเทคโนโลยีที่สำคัญที่สุดในโลก นอกจากนี้ ทั้ง OpenAI และ Anthropic กำลังเตรียมการเสนอขายหุ้น IPO ซึ่งอาจมีมูลค่าหลายล้านล้านดอลลาร์ โดยมูลค่าดังกล่าวขึ้นอยู่กับความคาดหวังต่อโมเดล AI รุ่นต่อไป

ในขณะเดียวกัน ก็มีผู้ที่ตั้งข้อสงสัยต่อแรงจูงใจเบื้องหลังคำเตือนเหล่านี้ โดยมองว่าอาจเป็นความพยายามที่จะสร้างความสนใจในเทคโนโลยี พร้อมกับผลักดันกฎระเบียบที่จะเพิ่มต้นทุนให้กับคู่แข่ง โดยเฉพาะอย่างยิ่งในขณะที่โมเดลโอเพนซอร์สกำลังไล่ตามทันเทคโนโลยีของบริษัทชั้นนำ ซึ่งอาจเป็นกลยุทธ์ที่เรียกว่า "การครอบงำเชิงกฎระเบียบ" (regulatory capture)