Flagship · Quy mô rack

GB200 NVL72 Supernode

72 GPU Blackwell hợp nhất trong một rack với 13.5TB bộ nhớ dùng chung và kết nối 30TB/s trong rack — một siêu nút trong một tủ.

Kiến trúc

Một siêu nút mỗi rack

Vừa một siêu nút huấn luyện toàn bộ trong một tủ.

📦

Giao hàng tích hợp

72 GPU tích hợp sẵn, sẵn sàng sử dụng.

🧠

Bộ nhớ dùng chung

Bể 13.5TB lưu các mô hình lớn trong một tủ rack.

⚡

Fabric trong rack

Băng thông 30TB/s giúp giao tiếp gần như vô hình.

🔒

Ổn định khi tải

Nguồn và làm mát chất lỏng thống nhất cho chạy dài hạn.

Thông số

Thông số chính NVL72

Biểu mẫu

Xây dựng rack

72× GPU Blackwell
GPU72
VRAM13.5TB dùng chung
CPU36 Grace
Siêu nút đơn rack.
Mạng kết nối

Băng thông

Miền NVLink
Trong rack30TB/s
Độ trễcực thấp
Topologylưới đầy đủ
Chi phí thấp tối thiểu.
Khối lượng công việc

Trường hợp sử dụng

Mô hình khổng lồ
Suy luận100M tham số+
Huấn luyệnhàng loạt lớn
MoEthân thiện
LLM tiên phong.

Cần một cơ sở suy luận cho 100M+ tham số?

GB200 NVL72 chạy các mô hình lớn trong một rack duy nhất.

FAQ

FAQ

NVL72 khác gì với B200 đa node?

NVL72 kết nối trong một rack với băng thông cao hơn nhiều và độ trễ thấp hơn so với thiết lập đa node.

Huấn luyện hay suy luận?

Cả hai — lý tưởng cho cư trú đơn rack của các mô hình rất lớn.

Thời gian chờ?

Quy mô rack cần đặt trước; chúng tôi lập lịch theo dự án.

Topology tùy chỉnh?

Có, chúng tôi tùy chỉnh rack và topology mạng theo khối lượng công việc của bạn.

Chạy mô hình lớn nhất của bạn trên NVL72

Chia sẻ quy mô tham số và nhu cầu độ trễ cho kế hoạch quy mô rack.