ผู้นำในอุตสาหกรรมกล่าวว่า ความปลอดภัยของ AI และ AI ที่เป็นตัวแทนจะผลักดันความต้องการการประมวลผลจำนวนมหาศาล

ผู้พัฒนาโมเดล AI ชั้นนำส่งสัญญาณว่า การทำงานด้านความปลอดภัยและการปรับสมดุล AI ที่เพิ่มขึ้น จะผลักดันให้การใช้จ่ายด้านโครงสร้างพื้นฐานเพิ่มขึ้นอย่างต่อเนื่อง ซึ่งเป็นการตอบโต้ความกังวลของนักลงทุนเกี่ยวกับการชะลอตัวของความต้องการฮาร์ดแวร์ที่อาจเกิดขึ้น จากบันทึกการวิจัยของ Citi ที่สรุปผลการประชุม AI Infra Summit วันแรกที่ซานตาคลารา ระบุว่า ปัญหาคอขวดหลักของอุตสาหกรรมไม่ใช่สถาปัตยกรรมโมเดล แต่เป็นการเข้าถึงการประมวลผล พลังงาน และสิ่งอำนวยความสะดวกขนาดใหญ่

Nvidia คาดการณ์ความต้องการ AI แบบอัตโนมัติเพิ่มขึ้น 100 เท่า

Nvidia (NASDAQ: NVDA) ได้อธิบายว่า การเปลี่ยนผ่านจากแชทบอทสนทนาไปสู่ "AI แบบอัตโนมัติ" จะสร้างความต้องการฮาร์ดแวร์ที่เพิ่มขึ้นอย่างมหาศาล เอียน บัค รองประธานฝ่าย Hyperscale และ HPC ของ Nvidia กล่าวว่า ภาระงานของ AI แบบอัตโนมัติจะต้องการพลังการประมวลผลประมาณ 100 เท่า ของแอปพลิเคชันสนทนาในยุคปี 2023

บัคกล่าวว่าการเพิ่มขึ้นอย่างมหาศาลนี้เกิดจากหลายปัจจัยที่เกี่ยวข้องกับ AI แบบเอเจนต์ รวมถึงลำดับอินพุตที่ยาวขึ้น ขนาดแคช KV ที่ใหญ่ขึ้น การโต้ตอบแบบหลายรอบ และการสร้างเอเจนต์ย่อยหลายตัว แนวโน้มนี้กำลังผลักดันการออกแบบศูนย์ข้อมูลรุ่นใหม่ที่สามารถรองรับ GPU ได้มากขึ้น 30% ถึง 40% โดยแพลตฟอร์มอย่าง Vera Rubin ที่กำลังจะเปิดตัวของ Nvidia มุ่งเน้นไปที่การเพิ่มประสิทธิภาพปริมาณงานของระบบแบบครบวงจร

บริษัทยักษ์ใหญ่ด้านโครงสร้างพื้นฐานเผยแผนงานการขยายขนาด

บริษัทเทคโนโลยีรายใหญ่ได้ให้รายละเอียดเกี่ยวกับกลยุทธ์ในการสร้างโครงสร้างพื้นฐานขนาดใหญ่ที่จำเป็นต่อการสนับสนุน AI รุ่นใหม่

Ad

การเปลี่ยนแปลงแบบครบวงจรของ Intel

ลิป-บู ตัน จาก Intel (NASDAQ: INTC) ได้กล่าวถึงการเปลี่ยนแปลงเชิงกลยุทธ์ของบริษัทจากผู้จัดจำหน่าย CPU แบบดั้งเดิมไปสู่ผู้ให้บริการโครงสร้างพื้นฐาน AI แบบครบวงจร เขาเน้นย้ำถึงบทบาทสำคัญอย่างต่อเนื่องของ CPU ในการเรียนรู้แบบเสริมแรง การจัดการ และเวิร์กโฟลว์แบบเอเจนต์ เนื่องจากอุตสาหกรรมมุ่งเน้นไปที่การเพิ่มประสิทธิภาพในระดับระบบ Tan ยังยืนยันด้วยว่ากระบวนการผลิต 18A ของ Intel ได้เข้าสู่การผลิตจำนวนมากแล้ว และกระบวนการผลิต 14A ที่ล้ำหน้ากว่าจะตามมาในภายหลัง

วิสัยทัศน์ 5GW ของ Meta

Santosh Janardhan หัวหน้าฝ่ายโครงสร้างพื้นฐานของ Meta Platforms (NASDAQ: META) ได้แบ่งปันข้อมูลเชิงลึกจากการสร้างระบบฝึกอบรมขนาดใหญ่ของบริษัท Meta กำลังขยายขนาดจากคลัสเตอร์ "Prometheus" ขนาด 1 กิกะวัตต์ในปัจจุบันไปสู่การใช้งาน "Hyperion" ขนาด 5 กิกะวัตต์ ในอนาคต Janardhan ระบุว่าการเชื่อมต่อเครือข่ายแบบไม่สูญเสียข้อมูลในหลายภูมิภาคเป็นความท้าทายในการดำเนินงานที่ใหญ่ที่สุด โดยกล่าวว่า Meta ได้ใช้สถาปัตยกรรมเครือข่าย Backend Aggregation (BAG) แบบกำหนดเองเพื่อรักษาเสถียรภาพในคลัสเตอร์ GPU ขนาดใหญ่ของบริษัท