เรือธง · ขนาดแร็ก

GB200 NVL72 Supernode

72 Blackwell GPU รวมเป็นแร็กเดียวพร้อมหน่วยความจำแชร์ 13.5TB และอินเตอร์คอนเนกต์ 30TB/s ในแร็ก — ซูเปอร์โนดในตู้เดียว

สถาปัตยกรรม

ซูเปอร์โนดต่อแร็ก

ใส่ซูเปอร์โนดการเทรนทั้งหมดในตู้เดียว

📦

การส่งมอบแบบรวม

72 GPU ถูกประกอบล่วงหน้า พร้อมใช้งาน

🧠

หน่วยความจำแชร์

พูล 13.5TB เก็บโมเดลขนาดใหญ่ในแร็กเดียว

⚡

โครงข่ายในแร็ก

แบนด์วิดท์ 30TB/s ทำให้การสื่อสารแทบไร้รอยต่อ

🔒

เสถียรภายใต้โหลด

พลังงานและการระบายความร้อนด้วยของเหลวแบบรวมศูนย์สำหรับรันยาว

สเปก

สเปกหลัก NVL72

แบบฟอร์ม

การสร้างแร็ก

72× Blackwell GPU
GPU72
VRAM13.5TB แชร์ร่วมกัน
CPU36 Grace
ซูเปอร์โนดแร็กเดียว
โครงข่าย

แบนด์วิดท์

โดเมน NVLink
ในแร็ก30TB/s
ความหน่วงต่ำมาก
ทอโปโลยีฟูลเมช
โอเวอร์เฮดต่ำสุด
งาน

กรณีการใช้งาน

โมเดลใหญ่มหาศาล
อนุมาน100M-พารามิเตอร์+
เทรนแบตช์ใหญ่
MoEเป็นมิตร
LLM แนวหน้า

ต้องการฐานการอนุมานสำหรับ 100M+ พารามิเตอร์?

GB200 NVL72 รันโมเดลใหญ่มหาศาลภายในแร็กเดียว

FAQ

FAQ

NVL72 แตกต่างจาก B200 มัลติโหนดอย่างไร?

NVL72 เชื่อมต่อภายในแร็กเดียวด้วยแบนด์วิดท์สูงกว่ามากและความหน่วงต่ำกว่าเซ็ตอัพข้ามโหนด

การเทรนหรือการอนุมาน?

ทั้งสอง — เหมาะสำหรับการอยู่อาศัยของโมเดลใหญ่มากในแร็กเดียว

เวลานำ?

ความต้องการแร็กสเกลต้องจองล่วงหน้า; เราตารางตามโครงการ

ทอโปโลยีกำหนดเอง?

ใช่ เราปรับแต่งทอโปโลยีแร็กและเครือข่ายตามงานของคุณ

รันโมเดลใหญ่ที่สุดของคุณบน NVL72

แบ่งปันขนาดพารามิเตอร์และความต้องการความหน่วงสำหรับแผนแร็กสเกล