บริษัท Anthropic เตือนถึงความเสี่ยงทางกฎหมายที่ "คาดเดาไม่ได้" จากปัญญาประดิษฐ์แบบอัตโนมัติ ในเอกสารการยื่นขอเสนอขายหุ้น IPO

บริษัท AI ชื่อ Anthropic ได้ระบุถึงความรับผิดทางกฎหมายที่อาจเกิดขึ้นจากเทคโนโลยี AI อัตโนมัติของตนว่าเป็นปัจจัยเสี่ยงที่สำคัญ โดยได้เตือนไว้ในเอกสารชี้ชวนการเสนอขายหุ้นต่อสาธารณะครั้งแรกว่า บริษัทอาจเผชิญกับการเรียกร้องทางกฎหมายที่ไม่สามารถคาดเดาได้จากการกระทำของ AI ที่ทำงานผิดพลาด ตามเอกสารที่สำนักข่าวรอยเตอร์ได้เห็น

ความรับผิดที่ไม่แน่นอนสำหรับ 'Agentic AI'

Anthropic กำลังพัฒนาเทคโนโลยี Agentic AI ซึ่งได้รับการออกแบบให้ทำงานอย่างอิสระเป็นเวลานานโดยสามารถเข้าถึงระบบของลูกค้าได้อย่างลึกซึ้ง ในเอกสารที่ยื่นต่อสาธารณะ บริษัทรับทราบว่าความสามารถเหล่านี้สร้างศักยภาพสูงที่จะก่อให้เกิดผลกระทบในโลกแห่งความเป็นจริง หาก AI แสดงข้อผิดพลาดหรือถูกนำไปใช้ในทางที่ผิด

บริษัทได้กล่าวถึงความเสี่ยงของการกระทำที่ไม่สามารถย้อนกลับได้ เช่น การทำธุรกรรมทางการเงินที่ไม่ได้รับอนุญาตหรือการลบข้อมูล ตามเอกสารชี้ชวน ข้อจำกัดตามสัญญาของ Anthropic เกี่ยวกับความรับผิดอาจ "ไม่สามารถบังคับใช้ได้หรือเพียงพอ" ต่อการเรียกร้องที่เกิดขึ้นจาก AI อัตโนมัติของบริษัท ซึ่งสร้างความไม่แน่นอนทางการเงินและทางกฎหมายอย่างมากสำหรับบริษัทในขณะที่เตรียมตัวเข้าสู่ตลาดหลักทรัพย์

คำถามด้านกฎระเบียบที่กว้างขึ้น

การเปิดเผยข้อมูลนี้เน้นย้ำถึงการถกเถียงที่สำคัญและยังไม่ได้รับการแก้ไขในภาคส่วนเทคโนโลยีและกฎหมาย: ใครจะเป็นผู้รับผิดชอบต่อความเสียหายที่เกิดจากระบบ AI อัตโนมัติ? Anthropic ระบุในเอกสารที่ยื่นว่าคำถามทางกฎหมายที่สำคัญหลายข้อยังคงไม่ได้รับคำตอบ รวมถึง:

Ad

• การกระทำที่ดำเนินการโดยตัวแทน AI จะถูกพิจารณาทางกฎหมายว่าเป็น ผลิตภัณฑ์ บริการ หรือหมวดหมู่อื่น หรือไม่
• ภายใต้สถานการณ์ใดที่การกระทำของตัวแทน AI อาจ ผูกมัดผู้ใช้ ที่ใช้งานมันทางกฎหมาย

ความไม่แน่นอนนี้ได้รับการกล่าวถึงโดยประธานคณะกรรมการการค้าแห่งสหรัฐอเมริกา แอนดรูว์ เฟอร์กูสัน ซึ่งเมื่อเร็ว ๆ นี้ได้เสนอแนะว่าความรับผิดชอบต่อความเสียหายที่เกิดจากเครื่องมือ AI น่าจะตกอยู่กับผู้พัฒนาหรือผู้ใช้ มากกว่าตัว AI เอง การปฏิบัติต่อ AI ทางกฎหมายนั้นแตกต่างจากภูมิคุ้มกันที่มอบให้แก่แพลตฟอร์มออนไลน์สำหรับเนื้อหาที่ผู้ใช้สร้างขึ้น ซึ่งเป็นเกราะป้องกันที่เริ่มเผชิญกับความท้าทายทางกฎหมายเมื่อเร็ว ๆ นี้

การเปิดเผยข้อมูลเกี่ยวกับการใช้โมเดลที่เป็นอันตราย

นอกเหนือจากเอเจนต์อัตโนมัติแล้ว Anthropic ยังเปิดเผยว่าโมเดล AI ของตนถูกนำไปใช้ "ในลักษณะที่อาจนำไปสู่การทำร้ายตัวเอง การกระทำรุนแรงต่อผู้อื่น หรือผลลัพธ์ที่ไม่พึงประสงค์อื่นๆ" แม้จะมีมาตรการป้องกันอยู่แล้วก็ตาม นี่สะท้อนให้เห็นถึงความท้าทายทางกฎหมายที่คู่แข่งอย่าง OpenAI กำลังเผชิญอยู่ ซึ่งกำลังต่อสู้กับคดีฟ้องร้องหลายคดีที่เชื่อมโยง ChatGPT ของตนกับปัญหาสุขภาพจิตและการฆ่าตัวตาย

เมื่อเร็วๆ นี้ ศาลได้แสดงความเต็มใจที่จะให้บริษัทเทคโนโลยีรับผิดชอบต่อการออกแบบแพลตฟอร์มของตน ดังที่เห็นได้ในคดีสำคัญที่ Meta Platforms และ Google ถูกตัดสินว่ามีความผิดฐานประมาทเลินเล่อในการออกแบบผลิตภัณฑ์โซเชียลมีเดีย บรรทัดฐานทางกฎหมายนี้อาจบ่งชี้ถึงสภาพแวดล้อมที่ท้าทายสำหรับนักพัฒนา AI หากโมเดลของพวกเขามีความเชื่อมโยงกับผลลัพธ์ที่ไม่พึงประสงค์ของผู้ใช้