นักวิจัยจาก OpenAI และ Google DeepMind เตือนถึงความเสี่ยงที่ไม่ได้ตรวจสอบใน AI ที่พัฒนาตนเองได้

นักวิจัยทั้งในปัจจุบันและอดีตจากห้องปฏิบัติการปัญญาประดิษฐ์ชั้นนำ เช่น OpenAI และ Google DeepMind กำลังแสดงความกังวลว่าบริษัทของพวกเขากำลังพัฒนา AI ที่พัฒนาตนเองได้เร็วเกินไปและขาดมาตรการป้องกันที่เพียงพอต่อผลลัพธ์ที่อาจร้ายแรง ในคำให้การที่เปิดเผยเฉพาะกับ Reuters บุคคลภายในเหล่านี้โต้แย้งว่าการแข่งขันเพื่อความเป็นเลิศทางเทคโนโลยีได้บดบังงานด้านความปลอดภัยที่จริงจังไป

บุคคลภายในอ้างถึงความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ

ในชุดวิดีโอสัมภาษณ์ที่รวบรวมโดย Palisade Research องค์กรไม่แสวงหาผลกำไรด้านความปลอดภัยของ AI พนักงานระบุว่าความกังวลของพวกเขาเกี่ยวกับความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติเป็นเรื่องจริงและไม่ใช่กลยุทธ์ทางการตลาด พวกเขาอธิบายถึงวัฒนธรรมองค์กรที่ให้ความสำคัญและให้รางวัลแก่การพัฒนาโมเดลใหม่ๆ อย่างรวดเร็วมากกว่าการวิจัยที่ระมัดระวังและมุ่งเน้นความปลอดภัย

• นีล นันดา นักวิทยาศาสตร์วิจัยที่ Google DeepMind ประเมินว่ามีโอกาสอย่างน้อย 10% ที่ AI ขั้นสูงอาจนำไปสู่การสูญพันธุ์ของมนุษย์ ซึ่งเขาอธิบายว่าเป็นตัวเลขที่ "สูงเกินจริง"
• - ฮวน เฟลิเป้ เซรอน อูริเบ วิศวกรวิจัยด้านการจัดเรียง AI ของ OpenAI กล่าวว่า "ห้องปฏิบัติการชั้นนำต่างแข่งขันกันอย่างดุเดือดราวกับปิดตา"

คำเตือนเหล่านี้เกิดขึ้นหลังจากมีรายงานเหตุการณ์ในเดือนกรกฎาคมที่ตัวแทนของ OpenAI ละเมิดสภาพแวดล้อมการทดสอบ ทำให้เกิดการตรวจสอบอย่างเข้มงวดจากสาธารณชนและหน่วยงานกำกับดูแลเกี่ยวกับโปรโตคอลความปลอดภัยของอุตสาหกรรม

การผลักดันเพื่อการพัฒนาตนเอง

Ad

ความกังวลหลักของนักวิจัยเหล่านี้คือการพัฒนา AI ที่มีความสามารถในการ พัฒนาตนเองแบบวนซ้ำ ซึ่งหมายถึงความสามารถของโมเดลในการเรียนรู้และปรับปรุงฟังก์ชันของตนเองโดยมีการแทรกแซงจากมนุษย์น้อยที่สุดหรือไม่มีเลย นักวิจารณ์โต้แย้งว่าสังคมยังไม่พร้อมสำหรับเทคโนโลยีดังกล่าว ซึ่งเป็นปัญหาที่ซับซ้อนขึ้นจากสิ่งที่พวกเขาอธิบายว่าเป็นโครงสร้างองค์กรที่แยกส่วนกันมากขึ้นภายในห้องปฏิบัติการ AI หลักๆ

โรซี่ แคมป์เบล อดีตนักวิจัยด้านนโยบายของ OpenAI บอกกับรอยเตอร์ว่าก่อนที่เธอจะลาออกในปี 2024 เธอพบว่ามันยากขึ้นเรื่อยๆ ที่จะมีอิทธิพลต่อทิศทางของเทคโนโลยีภายในบริษัท พลวัตนี้เกิดขึ้นแม้ว่าความกระตือรือร้นของนักลงทุนต่อความก้าวหน้าของ AI จะยังคงเป็นเชื้อเพลิงให้กับตลาดที่มีการแข่งขันสูง

อุตสาหกรรมยอมรับความเสี่ยงท่ามกลางการแข่งขัน

ผู้นำในอุตสาหกรรมได้ยอมรับถึงอันตรายที่อาจเกิดขึ้นอย่างเปิดเผย ดาริโอ อโมเดอี ซีอีโอของ Anthropic เพิ่งเรียกร้องให้ภาคอุตสาหกรรมชะลอตัวลง ซึ่งเป็นความรู้สึกเดียวกับที่แซม อัลต์แมน ซีอีโอของ OpenAI กล่าวไว้ ในสัญญาณของการเปิดเผยข้อมูลที่เพิ่มมากขึ้น มีรายงานว่า Anthropic วางแผนที่จะเตือนนักลงทุนที่มีศักยภาพในการเสนอขายหุ้น IPO ว่า AI ขั้นสูงอาจก่อให้เกิด "ความเสี่ยงที่ร้ายแรงหรือคุกคามการดำรงอยู่ของมนุษยชาติ"

แม้จะมีเสียงเรียกร้องให้ระมัดระวังเหล่านี้ แต่ทั้ง OpenAI และ Anthropic ก็ได้เปิดตัวโมเดลใหม่ในเดือนนี้ เจฟฟรีย์ เออร์วิง อดีตนักวิจัยของทั้งสองห้องปฏิบัติการ กล่าวกับรอยเตอร์ว่า แนวคิดของบริษัทในการชะลอตัวลงนั้นก็คือ "อย่าเร่งความเร็วมากเกินไป" เขากล่าวเสริมว่าห้องปฏิบัติการเหล่านี้สามารถเลือกที่จะชะลอการพัฒนาได้ด้วยตนเอง แต่พวกเขากำลังเผชิญกับการแข่งขันที่ดุเดือด โดยผู้นำบางคนเชื่อว่าหากพวกเขาหยุดการพัฒนา คู่แข่งที่มีความใส่ใจด้านความปลอดภัยน้อยกว่าจะก้าวขึ้นมาเป็นผู้นำแทน