เอกสารการยื่นขอเสนอขายหุ้น IPO ของ Anthropic เตือนว่า AI ขั้นสูงก่อให้เกิด 'ความเสี่ยงร้ายแรงต่อการดำรงอยู่ของมนุษยชาติ'

บริษัทปัญญาประดิษฐ์ (AI) ชื่อ Anthropic วางแผนที่จะออกคำเตือนพิเศษแก่ผู้ลงทุนที่มีศักยภาพในการเสนอขายหุ้นต่อสาธารณะครั้งแรก (IPO) โดยระบุว่า AI ขั้นสูงอาจก่อให้เกิด "ความเสี่ยงร้ายแรงหรือคุกคามการดำรงอยู่ของมนุษยชาติ" การเปิดเผยข้อมูลนี้ ซึ่งพบในเอกสารชี้ชวน IPO ที่สำนักข่าวรอยเตอร์ได้ตรวจสอบแล้ว ถือเป็นการเปลี่ยนแปลงครั้งสำคัญจากปัจจัยเสี่ยงทั่วไปที่บริษัทต่างๆ ระบุไว้ก่อนเข้าจดทะเบียนในตลาดหลักทรัพย์

การเปิดเผยข้อมูลที่ไม่เคยมีมาก่อน

แม้ว่าบริษัทมหาชนจะต้องระบุความเสี่ยงที่อาจเกิดขึ้นกับธุรกิจของตน แต่เอกสารของ Anthropic กลับระบุถึงอันตรายในระดับที่ไม่ค่อยพบเห็นในเอกสารทางการเงินใดๆ บริษัทซึ่งกำลังพยายามนำเทคโนโลยีที่ตนเองกำลังเตือนอยู่นี้มาใช้ในเชิงพาณิชย์ เน้นย้ำถึงความเสี่ยงที่แบบจำลอง AI ของตนอาจแสดงพฤติกรรมอันตรายที่เกิดขึ้นใหม่

ตามเอกสารที่ยื่นต่อหน่วยงานกำกับดูแล พฤติกรรมเหล่านี้อาจรวมถึง:

• ความพยายามที่จะ "ต่อต้านการปิดระบบ"
• ความสามารถในการ "ปกปิดหรือบิดเบือนข้อมูล"
• การกระทำที่คล้ายกับการแบล็กเมล์หรือการบีบบังคับในรูปแบบอื่น
• "พฤติกรรมปกป้องตนเอง" โดยทั่วไป

Anthropic ระบุในเอกสารว่า การพัฒนารูปแบบจำลองขั้นสูงอาจเพิ่มความเสี่ยงที่ระบบเหล่านี้จะก่อให้เกิดอันตรายที่ไม่สามารถแก้ไขได้หากจัดการไม่ถูกต้อง

เน้นที่ปัจจัยเสี่ยง

Ad

บริษัทได้อุทิศส่วนสำคัญของเอกสารชี้แจงการยื่นขอจดทะเบียนให้กับข้อกังวลเหล่านี้ เนื้อหาหลักของเอกสารมี 261 หน้า โดยประมาณ 80 หน้า อุทิศให้กับปัจจัยเสี่ยง ซึ่งเกือบสองเท่าของ 48 หน้าที่ใช้อธิบายธุรกิจหลัก

สิ่งนี้แตกต่างอย่างมากกับบริษัทเทคโนโลยีอื่นๆ ตัวอย่างเช่น เอกสารชี้แจงการยื่นขอจดทะเบียนของ SpaceX ซึ่งดำเนินงานบริษัท AI ชื่อ xAI ได้อุทิศเพียงประมาณ 38 หน้าจากเอกสาร 277 หน้าให้กับปัจจัยเสี่ยง นอกจากนี้ Anthropic ยังเตือนว่าความสามารถในการประเมินความปลอดภัยของโมเดลนั้นมีจำกัด เนื่องจาก AI ขั้นสูงอาจพัฒนาความตระหนักรู้ถึงความพยายามในการประเมินและเปลี่ยนแปลงพฤติกรรมตามนั้น ทำให้การกำกับดูแลที่แท้จริงทำได้ยากขึ้น

ธุรกิจด้านความปลอดภัยของ AI

แม้จะวางตำแหน่งตัวเองเป็นห้องปฏิบัติการ AI ที่คำนึงถึงความปลอดภัย แต่ Anthropic ยอมรับว่าผลตอบแทนทางการเงินจากการลงทุนด้านความปลอดภัยนั้น "ไม่ชัดเจน" เอกสารที่ยื่นไม่ได้เปิดเผยจำนวนเงินทั้งหมดที่ใช้ไปกับการวิจัยดังกล่าว แต่ระบุว่าความพยายามด้านความปลอดภัยนั้น "ต้องใช้ทรัพยากรจำนวนมาก" ทำให้ต้องแบ่งเงินทุนที่มีจำกัดระหว่างพลังการประมวลผล การสรรหาบุคลากร และโปรโตคอลด้านความปลอดภัย

ในสัปดาห์ตัวอย่างในเดือนกรกฎาคม บริษัทระบุว่าประมาณ 6% ของพลังการประมวลผลถูกจัดสรรให้กับงานด้านความปลอดภัย นี่แสดงให้เห็นถึงความขัดแย้งหลักสำหรับบริษัท: รายได้ของบริษัทขับเคลื่อนโดย "จังหวะที่ต่อเนื่องและทับซ้อนกัน" ของการเปิดตัวโมเดลใหม่ที่มีประสิทธิภาพมากขึ้น ซึ่งสร้างแรงกดดันในการแข่งขันที่อาจขัดแย้งกับจังหวะการพัฒนาที่ระมัดระวังและเน้นความปลอดภัยเป็นอันดับแรก Anthropic ปฏิเสธที่จะให้ความเห็นเกี่ยวกับเอกสารที่ยื่น