Story
ผู้ร่วมก่อตั้ง DeepMind เตือน: การพัฒนา AI ต้องไม่แซงหน้ามาตรการควบคุมความปลอดภัย
เชน เลกก์ หนึ่งในผู้ร่วมก่อตั้ง Google DeepMind ได้ออกมาเตือนว่า การพัฒนาเทคโนโลยีปัญญาประดิษฐ์ (AI) ที่ก้าวหน้าอย่างรวดเร็วจะต้องไม่ทิ้งห่างมาตรการควบคุมความปลอดภัย ตามรายงานของ Financial Times (FT) เมื่อวันพุธที่ผ่านมา พร้อมกันนี้ เขาได้เปิดตัวสถาบัน DeepMind Institute เพื่อสำรวจและขยายการถกเถียงในวงกว้างเกี่ยวกับการนำปัญญาประดิษฐ์ทั่วไป (AGI) มาใช้งานจริง
ความกังวลต่อการพัฒนาแบบก้าวกระโดด
คำเตือนดังกล่าวมีขึ้นท่ามกลางความกังวลในอุตสาหกรรมเกี่ยวกับ "การพัฒนาตนเองแบบเวียนซ้ำ" (recursive self-improvement) ซึ่งเป็นแนวคิดที่ว่า AI ที่มีความสามารถสูงขึ้นเรื่อยๆ อาจสามารถเขียนซอฟต์แวร์ ทำงานอัตโนมัติ และแม้กระทั่งช่วยพัฒนาระบบ AI รุ่นต่อไปได้ด้วยตัวเอง สิ่งนี้ทำให้นักวิจัยเกรงว่าเทคโนโลยีอาจพัฒนาไปเร็วกว่าความสามารถของมนุษย์ในการกำกับดูแลและควบคุม
FT รายงานว่า เลกก์มองว่าข้อเสนอของ ดาริโอ อโมเดอี ซีอีโอของ Anthropic ที่ให้ชะลอการเปิดตัวโมเดล AI ที่ล้ำสมัยที่สุด (frontier models) นั้นเป็น "ทิศทางที่น่าสนใจ" และ "ควรค่าแก่การพิจารณา"
สถานะปัจจุบันและการคาดการณ์ AGI
เลกก์กล่าวว่ายัง "เร็วเกินไป" ที่จะประกาศว่ามนุษย์ได้บรรลุถึง AGI แล้ว แม้ว่าจะมีผู้บริหารจาก Nvidia และ OpenAI ออกมาแสดงความเห็นในทำนองนั้นก่อนหน้านี้ก็ตาม
Adอย่างไรก็ตาม เขายังคง "มั่นใจ" กับการคาดการณ์เดิมของเขาที่ว่ามีโอกาส 50% ที่จะสามารถสร้าง AGI "ขั้นต่ำ" ได้สำเร็จภายในปี 2028 ทั้งนี้ Google DeepMind นิยาม AGI ว่าเป็นระบบที่มีความสามารถทางปัญญาเทียบเท่ากับสมองของมนุษย์
บทบาทของสถาบัน DeepMind
สถาบัน DeepMind ที่เพิ่งเปิดตัวใหม่นี้มีเป้าหมายเพื่อขยายการพูดคุยในประเด็น AGI สู่สาธารณะให้กว้างขวางยิ่งขึ้น โดยจะครอบคลุมหัวข้อที่หลากหลายเพื่อสร้างความเข้าใจที่รอบด้าน
- หัวข้อที่จะทำการศึกษาประกอบด้วย: วิทยาศาสตร์, การศึกษา, สังคม, นโยบาย, ปรัชญา และความเจริญรุ่งเรืองของมนุษย์
- บทความชุดแรกของสถาบันจะกล่าวถึง 3 ประเด็นหลัก ได้แก่ ความปลอดภัยของ AI, นโยบายเศรษฐกิจ และหลักการสำหรับ "ลัทธิอุดมคตินิยมใหม่" (new utopianism)
Read next
More on หุ้น
FTC สั่งให้ Walmart, Uber และ Delta เปิดเผยข้อมูลเกี่ยวกับการกำหนดราคาตามบุคคล
คณะกรรมการการค้าแห่งสหรัฐอเมริกา (FTC) เรียกร้องให้บริษัทขนาดใหญ่ 9 แห่ง ซึ่งรวมถึงบริษัทชั้นนำในธุรกิจค้าปลีก การท่องเที่ยว และเศรษฐกิจแบบแบ่งปัน (gig economy) เปิดเผยข้อมูลเกี่ยวกับวิธีการใช้ข้อมูลผู้บริโภคในการกำหนดราคาสินค้าและค่าจ้างรายบุคคล
Google เปิดตัวโมเดล AI Gemini 4 Carbon เพื่อเสริมศักยภาพด้านความปลอดภัยทางไซเบอร์
Google บริษัทในเครือ Alphabet ได้เปิดตัว Gemini 4 Carbon ซึ่งเป็นโมเดล AI รุ่นล่าสุดที่ออกแบบมาโดยเฉพาะสำหรับงานด้านความปลอดภัยทางไซเบอร์ขั้นสูง เช่น การตรวจจับช่องโหว่และการสร้างโค้ดที่ปลอดภัย การเปิดตัวครั้งนี้เป็นการเพิ่มการแข่งขันกับคู่แข่งอย่าง OpenAI และ Anthropic ในตลาด AI สำหรับองค์กร
หุ้น Oracle พุ่งขึ้นหลังจากเปิดเผยเป้าหมายรายได้ 225 พันล้านดอลลาร์สหรัฐสำหรับปี 2030
หุ้นของ Oracle พุ่งขึ้นอย่างมากหลังจากที่บริษัทได้นำเสนอแนวโน้มทางการเงินระยะยาว โดยตั้งเป้าหมายรายได้ต่อปีอย่างน้อย 225 พันล้านดอลลาร์ภายในปีงบประมาณ 2030 ซึ่งขับเคลื่อนโดยธุรกิจโครงสร้างพื้นฐานด้านปัญญาประดิษฐ์ (AI) ที่กำลังขยายตัว
แหล่งข่าวระบุว่า กระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบข้อตกลงซื้อกิจการ Hugging Face มูลค่า 12.9 พันล้านดอลลาร์ของ Nvidia ท่ามกลางการสอบสวนด้านการผูกขาดทางการค้าในวงกว้าง
มีรายงานว่ากระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบแผนการเข้าซื้อกิจการแพลตฟอร์ม AI Hugging Face มูลค่า 12.93 พันล้านดอลลาร์ของ Nvidia ซึ่งเป็นส่วนหนึ่งของการสอบสวนการผูกขาดทางการค้าที่กำลังดำเนินอยู่เกี่ยวกับการดำเนินงานในตลาดของบริษัทผู้ผลิตชิปรายนี้