Anthropic และ Accenture ทุ่มเงิน 2 พันล้านดอลลาร์เพื่อการประเมินแบบจำลอง AI อย่างอิสระ

บริษัทวิจัยด้าน AI อย่าง Anthropic และบริษัทที่ปรึกษาชั้นนำอย่าง Accenture กำลังร่วมมือกันในการประเมินปัญญาประดิษฐ์ขั้นสูงอย่างอิสระ โดยแต่ละบริษัทจะลงทุนอย่างน้อย 1 พันล้านดอลลาร์ ในอีกห้าปีข้างหน้า การลงทุนรวม 2 พันล้านดอลลาร์ นี้มีเป้าหมายเพื่อสร้างศักยภาพในการทดสอบความปลอดภัยและความน่าเชื่อถือที่แข็งแกร่งของโมเดล AI ระดับแนวหน้า

การตอบสนองต่อแรงกดดันในวงกว้างของอุตสาหกรรม

ความร่วมมือนี้เกิดขึ้นในขณะที่ผู้พัฒนา AI เผชิญกับการตรวจสอบอย่างเข้มงวดจากหน่วยงานกำกับดูแล ลูกค้าองค์กร และสาธารณชน เกี่ยวกับความปลอดภัยและความสามารถในการคาดการณ์ของระบบที่มีประสิทธิภาพสูงสุดของพวกเขา จากรายงานของ Reuters เหตุการณ์ล่าสุดที่เกี่ยวข้องกับตัวแทน AI ที่มีรายงานว่าทำงานนอกสภาพแวดล้อมที่ปลอดภัย ได้เพิ่มความกังวลว่า AI อาจพัฒนาไปได้โดยมีการกำกับดูแลจากมนุษย์อย่างจำกัด ทำให้พฤติกรรมของมันควบคุมได้ยาก

การเคลื่อนไหวนี้เกิดขึ้นหลังจากที่ Dario Amodei ซีอีโอของ Anthropic เรียกร้องให้บริษัท AI ลดความเร็วในการพัฒนาโมเดลระดับแนวหน้าและให้การเข้าถึงผู้ประเมินอิสระมากขึ้น นอกจากนี้ยังสะท้อนถึงการกระทำของคู่แข่งเช่น OpenAI ซึ่งเพิ่งประกาศว่าจะเริ่มเผยแพร่รายงานเกี่ยวกับพฤติกรรมของโมเดลที่ไม่คาดคิด

Ad

โมเดล 'การประเมินแบบฝังตัว'

Faculty ซึ่งเป็นธุรกิจ AI เฉพาะทางของ Accenture จะเป็นผู้นำในการประเมินผล โดยงานนี้จะรวมถึงการประเมินความสอดคล้อง การทดสอบมาตรการป้องกันของโมเดล และการดำเนินการ "red-teaming" เพื่อระบุช่องโหว่

Anthropic กล่าวว่าการลงทุนนี้จะสนับสนุนแนวทางที่เรียกว่า "การประเมินแบบฝังตัว" ซึ่งผู้ทดสอบอิสระจะทำงานจากภายในบริษัท AI โดยมีสิทธิ์เข้าถึงข้อมูลคล้ายกับพนักงาน ตามที่บริษัทระบุ มุมมองนี้ช่วยให้ผู้ประเมินสามารถประเมินการดำเนินงานขององค์กร ตรวจสอบข้อผูกพันด้านความปลอดภัย และระบุจุดบอดที่อาจเกิดขึ้นได้ Anthropic และ Accenture ยังกล่าวถึงแผนการที่จะร่วมมือกับนักพัฒนา AI และผู้ประเมินรายอื่น ๆ ในลักษณะเดียวกันด้วย