Unggulan · Skala rak

GB200 NVL72 Supernode

72 GPU Blackwell digabungkan ke dalam satu rak dengan memori dikongsi 13.5TB dan interkoneksi dalam rak 30TB/s — supernod dalam satu kabinet.

Seni bina

Satukan supernod setiap rak

Muatkan keseluruhan supernod latihan dalam satu kabinet.

📦

Penghantaran bersepadu

72 GPU pra-integrasi, sedia digunakan.

🧠

Memori dikongsi

Kolam 13.5TB mengekalkan model besar dalam satu rak.

⚡

Fabrik dalam rak

Lebar jalur 30TB/s menjadikan komunikasi hampir tidak kelihatan.

🔒

Stabil pada beban

Kuasa dan penyejukan cecair bersepadu untuk larian panjang.

Spesifikasi

Spesifikasi utama NVL72

Borang

Bina rak

72× GPU Blackwell
GPU72
VRAM13.5TB dikongsi
CPU36 Grace
Supernod satu-rak.
Fabrik

Lebar jalur

Domain NVLink
Dalam rak30TB/s
Kependamanultra-rendah
Topologijaringan penuh
Overhed minimum.
Beban kerja

Kes penggunaan

Model besar
Inferens100M+ parameter
Latihkelompok besar
MoEmesra
LLM barisan hadapan.

Perlukan pangkalan inferens untuk 100M+ param?

GB200 NVL72 menjalankan model besar dalam satu rak.

FAQ

FAQ

Bagaimana NVL72 berbeza dari B200 berbilang-nod?

NVL72 menghubungkan dalam satu rak pada lebar jalur jauh lebih tinggi dan kependaman lebih rendah berbanding persediaan merentas-nod.

Latihan atau inferens?

Kedua-duanya — sesuai untuk kediaman model sangat besar dalam satu rak.

Masa pendahuluan?

Skala-rak memerlukan tempahan awal; kami jadual mengikut projek.

Topologi tersuai?

Ya, kami sesuaikan topologi rak dan rangkaian ke beban kerja anda.

Jalankan model terbesar anda pada NVL72

Kongsi skala parameter dan keperluan kependaman untuk pelan skala-rak.