ข้อมูล Anthropic ตอกย้ำความกังวลถึงความเสี่ยงที่ AI จะเร่งพัฒนาตัวเอง

บริษัท Anthropic ได้เปิดเผยข้อมูลชุดใหม่ที่ชี้ให้เห็นถึงบทบาทของปัญญาประดิษฐ์ (AI) ในการวิจัยและพัฒนา AI ด้วยกันเอง ซึ่งเป็นข้อมูลที่น่าจับตามองสำหรับประเด็นถกเถียงเกี่ยวกับความเสี่ยงของ AI ในระยะยาว โดยเฉพาะแนวคิดที่ว่า AI อาจพัฒนาความสามารถของตัวเองได้อย่างก้าวกระโดด

ข้อมูลดังกล่าวระบุว่า ปัจจุบันโมเดล AI อย่าง Claude ได้เข้ามามีบทบาท "นำ" ในงานวิจัยและพัฒนา (R&D) ด้าน AI ของ Anthropic เองถึง 26% เพิ่มขึ้นอย่างมีนัยสำคัญจากไม่ถึง 1% เมื่อเดือนกุมภาพันธ์ที่ผ่านมา

บทบาทของ AI ในการวิจัยและพัฒนา

Anthropic นิยามคำว่า "นำ" (leads) ว่าเป็นการที่ AI สามารถทำงานส่วนใหญ่ได้ตั้งแต่ต้นจนจบตามคำสั่งระดับสูง โดยมีมนุษย์ทำหน้าที่กำกับดูแลอยู่เบื้องหลัง นอกจากนี้ ข้อมูลยังชี้ว่ากว่า 90% ของงานวิจัยและพัฒนา AI ทั้งหมด อยู่ในระดับที่ AI "ทำงานร่วมกับ" (collaborates) มนุษย์

ข้อมูลเชิงปริมาณที่น่าสนใจจากรายงานในเดือนสิงหาคม ได้แก่:

• มี AI agent ประมาณ 30,000 ตัว ทำงานวิจัยและวิศวกรรมพร้อมกันบนแพลตฟอร์มภายในของบริษัท
• มีการวิเคราะห์การตัดสินใจของ agent มากกว่า 1 พันล้าน ครั้ง
• มีการบล็อกการทำงานของ agent เพียง 0.002% โดยระบบตรวจสอบออนไลน์

นัยต่อความเสี่ยงและแนวคิด "Recursive Self-Improvement"

Ad

ข้อมูลชุดนี้มีความสำคัญอย่างยิ่งต่อแนวคิดที่เรียกว่า "การพัฒนาตนเองอย่างต่อเนื่อง" (recursive self-improvement) ซึ่งเป็นสถานการณ์ที่ AI ทำการวิจัย AI, ผลวิจัยนั้นสร้าง AI ที่ดีขึ้น และ AI ที่ดีขึ้นก็สามารถทำการวิจัย AI ได้มากขึ้นและเร็วขึ้นไปอีก กลายเป็นวงจรที่เร่งความเร็วในการพัฒนาตัวเอง

แม้ว่าตัวเลข 26% จะยังไม่ถึงจุดที่ AI สามารถทำการวิจัยและพัฒนาได้โดยอัตโนมัติทั้งหมด (fully autonomous) และมนุษย์ยังคงมีบทบาทสำคัญในกระบวนการ แต่สิ่งที่น่าจับตามองที่สุดคือ อัตราการเปลี่ยนแปลงที่รวดเร็ว การเพิ่มขึ้นจากน้อยกว่า 1% มาเป็น 26% ในเวลาเพียง 6 เดือน เป็นสัญญาณที่ชัดเจนถึงแนวโน้มที่บทบาทของ AI ในการสร้าง AI รุ่นต่อไปกำลังเพิ่มขึ้นอย่างก้าวกระโดด

มุมมองสำหรับตลาดและนักลงทุน

สำหรับนักลงทุนและผู้ที่เกี่ยวข้องในอุตสาหกรรมเทคโนโลยี ข้อมูลของ Anthropic นี้เป็นตัวชี้วัดที่เป็นรูปธรรมชุดแรกๆ ที่ช่วยให้สามารถติดตามแนวโน้มที่ AI เข้ามาทำงานแทนมนุษย์ในการสร้าง AI แห่งอนาคตได้ แนวโน้มนี้อาจมีความสำคัญมากขึ้นเรื่อยๆ หากบทบาทของมนุษย์ในกระบวนการพัฒนายังคงลดลงอย่างต่อเนื่อง

นอกจากนี้ Anthropic ยังเปิดเผยว่าในช่วงสัปดาห์หนึ่งของเดือนกรกฎาคม ประมาณ 12% ของพลังการประมวลผล (compute) ที่ใช้ในการวิจัย AI โดย AI ถูกจัดสรรให้กับงานด้านความปลอดภัย (safety work) ซึ่งสะท้อนให้เห็นถึงความพยายามในการควบคุมและบริหารความเสี่ยงควบคู่ไปกับการพัฒนา