Story
ผู้ร่วมก่อตั้ง DeepMind เตือน: การพัฒนา AI ต้องไม่แซงหน้ามาตรการควบคุมความปลอดภัย
Summary
เชน เลกก์ ผู้ร่วมก่อตั้ง Google DeepMind แสดงความกังวลว่าความสามารถของ AI ที่ก้าวหน้าอย่างรวดเร็วอาจล้ำหน้ามาตรการควบคุมความปลอดภัย พร้อมเปิดตัวสถาบันวิจัยเพื่อศึกษาการมาถึงของปัญญาประดิษฐ์ทั่วไป (AGI)
เชน เลกก์ หนึ่งในผู้ร่วมก่อตั้ง Google DeepMind ได้ออกมาเตือนว่า การพัฒนาเทคโนโลยีปัญญาประดิษฐ์ (AI) ที่ก้าวหน้าอย่างรวดเร็วจะต้องไม่ทิ้งห่างมาตรการควบคุมความปลอดภัย ตามรายงานของ Financial Times (FT) เมื่อวันพุธที่ผ่านมา พร้อมกันนี้ เขาได้เปิดตัวสถาบัน DeepMind Institute เพื่อสำรวจและขยายการถกเถียงในวงกว้างเกี่ยวกับการนำปัญญาประดิษฐ์ทั่วไป (AGI) มาใช้งานจริง
ความกังวลต่อการพัฒนาแบบก้าวกระโดด
คำเตือนดังกล่าวมีขึ้นท่ามกลางความกังวลในอุตสาหกรรมเกี่ยวกับ "การพัฒนาตนเองแบบเวียนซ้ำ" (recursive self-improvement) ซึ่งเป็นแนวคิดที่ว่า AI ที่มีความสามารถสูงขึ้นเรื่อยๆ อาจสามารถเขียนซอฟต์แวร์ ทำงานอัตโนมัติ และแม้กระทั่งช่วยพัฒนาระบบ AI รุ่นต่อไปได้ด้วยตัวเอง สิ่งนี้ทำให้นักวิจัยเกรงว่าเทคโนโลยีอาจพัฒนาไปเร็วกว่าความสามารถของมนุษย์ในการกำกับดูแลและควบคุม
FT รายงานว่า เลกก์มองว่าข้อเสนอของ ดาริโอ อโมเดอี ซีอีโอของ Anthropic ที่ให้ชะลอการเปิดตัวโมเดล AI ที่ล้ำสมัยที่สุด (frontier models) นั้นเป็น "ทิศทางที่น่าสนใจ" และ "ควรค่าแก่การพิจารณา"
สถานะปัจจุบันและการคาดการณ์ AGI
เลกก์กล่าวว่ายัง "เร็วเกินไป" ที่จะประกาศว่ามนุษย์ได้บรรลุถึง AGI แล้ว แม้ว่าจะมีผู้บริหารจาก Nvidia และ OpenAI ออกมาแสดงความเห็นในทำนองนั้นก่อนหน้านี้ก็ตาม
Adอย่างไรก็ตาม เขายังคง "มั่นใจ" กับการคาดการณ์เดิมของเขาที่ว่ามีโอกาส 50% ที่จะสามารถสร้าง AGI "ขั้นต่ำ" ได้สำเร็จภายในปี 2028 ทั้งนี้ Google DeepMind นิยาม AGI ว่าเป็นระบบที่มีความสามารถทางปัญญาเทียบเท่ากับสมองของมนุษย์
บทบาทของสถาบัน DeepMind
สถาบัน DeepMind ที่เพิ่งเปิดตัวใหม่นี้มีเป้าหมายเพื่อขยายการพูดคุยในประเด็น AGI สู่สาธารณะให้กว้างขวางยิ่งขึ้น โดยจะครอบคลุมหัวข้อที่หลากหลายเพื่อสร้างความเข้าใจที่รอบด้าน
- หัวข้อที่จะทำการศึกษาประกอบด้วย: วิทยาศาสตร์, การศึกษา, สังคม, นโยบาย, ปรัชญา และความเจริญรุ่งเรืองของมนุษย์
- บทความชุดแรกของสถาบันจะกล่าวถึง 3 ประเด็นหลัก ได้แก่ ความปลอดภัยของ AI, นโยบายเศรษฐกิจ และหลักการสำหรับ "ลัทธิอุดมคตินิยมใหม่" (new utopianism)
Read next
More on หุ้น
ฟิวเจอร์สหุ้นสหรัฐฯ ดีดตัวขึ้น หลังเฟดส่งสัญญาณคุมเข้มนโยบายการเงินกดดันตลาด
สัญญาซื้อขายล่วงหน้าดัชนีหุ้นสหรัฐฯ ปรับตัวสูงขึ้น โดยได้แรงหนุนจากราคาน้ำมันที่ลดลงและความหวังในการเจรจาในตะวันออกกลาง หลังจากที่ตลาดร่วงลงจากท่าทีสายเหยี่ยวของธนาคารกลางสหรัฐฯ
Holtec เลื่อนแผน IPO ในสหรัฐฯ มูลค่า 900 ล้านดอลลาร์ อ้างสภาวะตลาดไม่เอื้ออำนวย
Holtec Nuclear Corp. ระงับแผนการเสนอขายหุ้น IPO ในสหรัฐฯ ซึ่งตั้งเป้าระดมทุนสูงถึง 900 ล้านดอลลาร์ โดยให้เหตุผลว่าสภาวะตลาดในปัจจุบันไม่เอื้ออำนวย ตามรายงานของสำนักข่าวบลูมเบิร์ก
หุ้น Snap ดีดตัวขึ้นนอกเวลาทำการ ขานรับการเปิดตัวแว่นตา AR และพันธมิตรเทคโนโลยีรายใหญ่
ราคาหุ้น Snap Inc. ปรับตัวสูงขึ้น 2.5% ในการซื้อขายนอกเวลาทำการ หลังบริษัทประกาศเปิดตัวแว่นตา AR รุ่นใหม่ พร้อมจับมือกับพันธมิตรยักษ์ใหญ่อย่าง Salesforce, Nvidia และ AWS เพื่อรุกตลาดองค์กร
ราคาทองคำร่วง หลังเฟดขึ้นดอกเบี้ย-ส่งสัญญาณคุมเข้มนโยบาย หนุนดอลลาร์แข็งค่า
ราคาทองคำปรับตัวลดลงหลังธนาคารกลางสหรัฐฯ (เฟด) ขึ้นอัตราดอกเบี้ยและส่งสัญญาณว่าจะมีการปรับขึ้นอีกในอนาคต ซึ่งส่งผลให้ค่าเงินดอลลาร์แข็งค่าขึ้นและเพิ่มแรงกดดันต่อสินทรัพย์ที่ไม่ให้ผลตอบแทนอย่างทองคำ