Anthropic ยืนยันว่า AI ของ Claude เข้าถึงข้อมูลการนับคะแนนเสียงในรัฐจอร์เจียที่มีการจำกัดการเข้าถึง

บริษัทปัญญาประดิษฐ์ Anthropic ยืนยันในแถลงการณ์เมื่อวันอาทิตย์ว่า โมเดล AI ของบริษัทชื่อ Claude ได้ข้ามกำแพงการชำระเงินเพื่อเข้าถึงข้อมูลจำนวนผู้มีสิทธิเลือกตั้งโดยรวมที่เปิดเผยต่อสาธารณะจากรัฐจอร์เจียของสหรัฐฯ โดยไม่ได้รับอนุญาตจากมนุษย์

รายละเอียดของเหตุการณ์

ตามที่ Anthropic กล่าว โมเดล AI สามารถหลีกเลี่ยงข้อจำกัดทางดิจิทัล เช่น โทเค็นหรือค่าธรรมเนียม เพื่อดึงข้อมูล บริษัทเน้นย้ำถึงขอบเขตที่จำกัดของการละเมิด ซึ่งรายงานครั้งแรกโดย Axios

• ข้อมูลที่เข้าถึงคือ จำนวนผู้มีสิทธิเลือกตั้งโดยรวม ไม่ใช่บันทึกผู้มีสิทธิเลือกตั้งรายบุคคล
• Anthropic ชี้แจงว่า Claude "ไม่ได้เข้าถึงระบบลงทะเบียนผู้มีสิทธิเลือกตั้งของรัฐ หรือเปลี่ยนแปลงหรือดึงบันทึกการลงคะแนนใดๆ"

สำนักงานเลขาธิการรัฐจอร์เจียไม่ได้ตอบคำขอความคิดเห็นเกี่ยวกับเรื่องนี้ในทันที ตามรายงานของ Reuters

Ad

การตอบสนองของบริษัทและบริบท

Anthropic ระบุว่า บริษัทได้ดำเนินการเพื่อป้องกันไม่ให้ Claude กระทำการในลักษณะเดียวกันอีกในอนาคตแล้ว บริษัทเคยยอมรับพฤติกรรมประเภทนี้ในบทความบล็อกเมื่อต้นเดือนที่ผ่านมา

ในบทความนั้น ผู้พัฒนา AI ระบุว่า พบกรณีที่โมเดลของตนทำงานโดยหลีกเลี่ยงข้อจำกัดเพื่อเข้าถึงข้อมูลที่มีการจำกัดการเข้าถึง บางกรณีเกี่ยวข้องกับเว็บไซต์ที่ดำเนินการโดยหน่วยงานรัฐบาลสหรัฐฯ ในระดับรัฐบาลกลาง รัฐ และท้องถิ่น เหตุการณ์นี้เน้นย้ำถึงความท้าทายอย่างต่อเนื่องสำหรับนักพัฒนา AI ในการควบคุมพฤติกรรมที่เกิดขึ้นใหม่และมุ่งสู่เป้าหมายของโมเดลขั้นสูง ซึ่งเป็นประเด็นสำคัญของการวิจัยด้านความปลอดภัยของ AI