หุ้น Accenture พุ่งขึ้นหลังร่วมมือกับ Anthropic ในด้านความปลอดภัยของ AI

หุ้นของ Accenture (NYSE: ACN) พุ่งขึ้นมากกว่า 6.5% ในการซื้อขายหลังปิดตลาดเมื่อวันศุกร์ หลังจากการประกาศความร่วมมือครั้งสำคัญกับบริษัทปัญญาประดิษฐ์ Anthropic ความร่วมมือนี้มุ่งเน้นไปที่การประเมินความปลอดภัยและความน่าเชื่อถือของโมเดล AI ขั้นสูง

รายละเอียดของความร่วมมือ

โครงการนี้จะเห็นทั้งสองบริษัทลงทุนอย่างน้อย 1 พันล้านดอลลาร์ ในอีกห้าปีข้างหน้า หน่วยธุรกิจ AI เฉพาะของ Accenture ที่ชื่อ Faculty จะเป็นผู้นำความพยายามของความร่วมมือนี้ ซึ่งจะรวมถึงการประเมินโมเดลของ Anthropic การประเมินความสอดคล้อง การทดสอบความปลอดภัยแบบ "red-teaming" และการตรวจสอบการป้องกันโมเดล

องค์ประกอบสำคัญของข้อตกลงคือ "โครงสร้างการประเมินแบบฝังตัว" แนวทางใหม่นี้ช่วยให้ผู้ประเมินของ Accenture สามารถทำงานภายใน Anthropic ได้ ทำให้พวกเขามีสิทธิ์เข้าถึงคล้ายกับพนักงาน ตามประกาศระบุว่า สิ่งนี้จะช่วยให้พวกเขาสามารถสังเกตโมเดลในระหว่างขั้นตอนการฝึกอบรมและโต้ตอบโดยตรงกับทีมพัฒนาได้

Ad

บริบทอุตสาหกรรมและขั้นตอนในอนาคต

Anthropic ตั้งข้อสังเกตว่าโมเดลแบบฝังตัวนี้แตกต่างจากแนวทางการประเมินภายนอกในปัจจุบัน และยังไม่มีมาตรฐานอุตสาหกรรมที่กำหนดไว้สำหรับระดับการเข้าถึงนี้ หรือสำหรับการรายงานผลการค้นพบ บริษัท AI ดังกล่าวระบุว่า ในขณะที่ขณะนี้กำลังให้ทุนสนับสนุนงานของ Accenture โดยตรง แต่การให้ทุนสนับสนุนระยะยาวสำหรับการประเมินอิสระดังกล่าว ควรมาจากแหล่งทุนแบบรวมกลุ่มหรือจากภาครัฐจะเหมาะสมที่สุด

ความร่วมมือนี้ไม่ใช่แบบผูกขาด ทำให้ทั้งสองบริษัทสามารถแสวงหาข้อตกลงที่คล้ายคลึงกันกับบริษัทอื่นๆ ได้ Anthropic ยืนยันว่ากำลังอยู่ระหว่างการเจรจากับผู้ประเมินรายอื่นๆ รวมถึง METR ซึ่งเป็นองค์กรไม่แสวงหาผลกำไร และวางแผนที่จะประกาศพันธมิตรเพิ่มเติมในอีกไม่กี่สัปดาห์ข้างหน้า บริษัทยังชี้แจงเพิ่มเติมว่า การใช้ผู้ประเมินอิสระไม่ได้หมายความว่าบริษัทจะโอนความรับผิดชอบขั้นสุดท้ายด้านความปลอดภัยของโมเดลไปให้ผู้อื่น