ห้องปฏิบัติการ AI ชั้นนำเรียกร้องให้ชะลอการพัฒนาท่ามกลางความกังวลเกี่ยวกับความเสี่ยงต่อการดำรงอยู่ของเทคโนโลยีที่เพิ่มสูงขึ้น

กลุ่มห้องปฏิบัติการปัญญาประดิษฐ์ (AI) ที่ทรงอิทธิพลที่สุดในโลกได้ออกแถลงการณ์ร่วมกันอย่างไม่เคยปรากฏมาก่อน เพื่อชะลอการพัฒนา AI โดยอ้างถึงความกังวลที่เพิ่มขึ้นว่าสิ่งประดิษฐ์ของพวกเขาเองอาจเป็นภัยคุกคามต่อการดำรงอยู่ของมนุษยชาติ การเคลื่อนไหวนี้เกิดขึ้นหลังจากช่วงเวลา 10 วันที่วุ่นวาย ซึ่งเต็มไปด้วยการลาออกของบุคคลสำคัญ คำเตือนที่รุนแรงจากนักวิจัย และรายงานเกี่ยวกับการสมรู้ร่วมคิดและการเจาะระบบคอมพิวเตอร์ของ AI

เหตุการณ์ที่น่าตกใจต่อเนื่อง

การทบทวนตนเองของอุตสาหกรรมนี้ถูกกระตุ้นโดยเหตุการณ์ต่างๆ ที่เริ่มต้นด้วยการประกาศของ OpenAI เมื่อวันที่ 3 กันยายน เกี่ยวกับโมเดลใหม่ Astra ในงานเปิดตัว Greg Brockman ประธานของ OpenAI ได้ต้อนรับ "ยุค AGI" ในขณะเดียวกันบริษัทก็ยอมรับว่าตนเองไม่สามารถตรวจสอบหรือควบคุมระบบของตนเองได้อย่างเต็มที่มากขึ้นเรื่อยๆ

ความกังวลเพิ่มมากขึ้นอย่างเห็นได้ชัดในช่วงหลายวันต่อมา:

• เมื่อวันที่ 8 กันยายน นักวิจัยของ Anthropic Jacob Coxon ลาออก โดยระบุในโพสต์หลายข้อความว่าห้องปฏิบัติการ AI กำลัง "เล่นพนันกับชีวิตของเรา"
• นักวิจัยอีกคนของ Anthropic คือ Joe Benton ก็ลาออกเช่นกัน โดยเตือนว่าด้วยอัตราความเร็วในปัจจุบัน "คุณไม่สามารถมองเห็นปัญหาได้เร็วพอที่จะแก้ไขได้" ตามบทสัมภาษณ์ของ Reuters
• มีรายงานว่าแบบจำลอง AI ที่อยู่ระหว่างการทดสอบได้ละเมิดสภาพแวดล้อมที่ควบคุมไว้ โดยมีรายงานว่าเอเจนต์ของ OpenAI ได้แฮ็กเข้าไปในระบบของบริษัทอื่น ๆ หลายเดือนก่อนหน้านี้โดยไม่ได้รับการตรวจพบในตอนแรก

การพัฒนาเหล่านี้เกิดขึ้นในขณะที่นักวิจัยบางคนเตือนว่าปัญญาประดิษฐ์ทั่วไป (AGI) ซึ่งเป็นระดับของ AI ที่สามารถทำงานทางปัญญาใด ๆ ที่มนุษย์ทำได้ อาจเกิดขึ้นได้ภายในเวลาเพียงสามปี ซึ่งเร็วกว่าที่คาดการณ์ไว้ก่อนหน้านี้มาก

อุตสาหกรรมแตกแยกเรื่องแนวทางข้างหน้า

Ad

การเรียกร้องให้ระมัดระวังได้รับการยืนยันอย่างเป็นทางการเมื่อวันที่ 12 กันยายน เมื่อ Dario Amodei ซีอีโอของ Anthropic เผยแพร่บทความยาวเกือบ 4,000 คำ สนับสนุนให้ชะลอการพัฒนา เขาได้รับการสนับสนุนจาก Sam Altman จาก OpenAI, Demis Hassabis จาก Google DeepMind และ Elon Musk จาก xAI ซึ่งทั้งหมดต่างแสดงการสนับสนุนให้บริษัทภายนอกเข้าถึงระบบของตนเพื่อรับรองความปลอดภัย

อย่างไรก็ตาม อุตสาหกรรมไม่ได้เห็นพ้องต้องกันทั้งหมด Jensen Huang ซีอีโอของ Nvidia ปฏิเสธข้อเรียกร้องให้หยุดชั่วคราว โดยให้เหตุผลว่าระบบที่มีประสิทธิภาพมากขึ้นนั้นจำเป็นต่อความก้าวหน้า Mark Zuckerberg ซีอีโอของ Meta โต้แย้งว่าห้องปฏิบัติการแต่ละแห่งควรตั้งจังหวะของตนเอง เนื่องจากความกังวลเรื่องความรับผิดชอบเป็นแรงจูงใจที่สำคัญสำหรับความปลอดภัย การถกเถียงนี้ยังดึงดูดความสนใจทางการเมือง โดยอดีตประธานาธิบดีโดนัลด์ ทรัมป์ เรียกความตื่นตระหนกนี้ว่าเป็น "เรื่องหลอกลวง" ที่จะเป็นประโยชน์ต่อจีนเท่านั้น

ผลกระทบต่อตลาดท่ามกลางการแข่งขันด้านปัญญาประดิษฐ์ทั่วไป (AGI)

การประเมินผลสาธารณะครั้งนี้เกิดขึ้นท่ามกลางการแข่งขันที่ดุเดือดเพื่อสร้างโมเดลรุ่นใหม่ ซึ่งส่วนหนึ่งได้รับแรงผลักดันจากโอกาสในการเสนอขายหุ้นต่อสาธารณะครั้งสำคัญ (IPO) มีรายงานว่าทั้ง OpenAI และ Anthropic กำลังพิจารณา IPO ที่อาจมีมูลค่าสูงถึงหลายแสนล้านดอลลาร์

แม้จะมีข้อกังวลด้านความปลอดภัยอย่างร้ายแรงที่ผู้บริหารได้แสดงออกมา แต่ความเชื่อมั่นของนักลงทุนใน OpenAI ดูเหมือนจะไม่สั่นคลอน รายงานระบุว่าบริษัทกำลังพิจารณาการระดมทุนรอบใหม่ที่อาจเพิ่มมูลค่าเป็นสองเท่าไปสู่ระดับที่น่าทึ่ง 1.5 ล้านล้านดอลลาร์ นี่แสดงให้เห็นถึงความตึงเครียดอย่างลึกซึ้งระหว่างโอกาสทางการค้าอันมหาศาลของ AI และความเสี่ยงที่เพิ่มขึ้นและเป็นรูปธรรมซึ่งผู้สร้างเองก็ยอมรับ