Kiến trúc Blackwell mới với 20 PFLOPS FP4 và 192GB HBM3e, được xây dựng riêng cho huấn luyện nghìn tỷ tham số và suy luận thông lượng cao.
Gấp vài lần mật độ AI của thế hệ trước ở công suất tương đương.
20 PFLOPS FP4 tăng tốc tiền huấn luyện và tinh chỉnh.
192GB HBM3e chứa được batch lớn hơn và ngữ cảnh dài hơn.
NVLink 1.8TB/s giữ chi phí đa GPU thấp.
Làm mát chất lỏng bản địa cho tải duy trì ổn định.
Khối lượng công việc LLM cấp sản xuất.
Cần bộ nhớ lớn và băng thông kết nối cao.
Tính toán ổn định cho đồng thời quy mô người tiêu dùng.
VRAM và tính toán cao cho văn bản/ảnh/âm thanh kết hợp.
Blackwell nâng đáng kể tính toán FP4/FP8 và băng thông bộ nhớ cho mô hình lớn hơn và thông lượng cao hơn.
Có, qua InfiniBand và NVLink cho huấn luyện mở rộng được.
Trả theo sử dụng và đặt trước hàng tháng/năm.
Có, GigaX cung cấp lập lịch đa dạng theo tác vụ.