Không có instance được cấp trước — mở rộng theo lưu lượng, thu về không khi hết. Tính phí theo token và giây, khởi động nguội trong vài giây.
Tập trung vào kinh doanh, chúng tôi lo hạ tầng.
Kéo lên theo yêu cầu, không luôn bật.
Đàn hồi với đồng thời, không sụt tại đỉnh.
Theo token/giây; chi phí không khi rảnh.
Tích hợp sẵn vLLM và các mô hình mở phổ biến.
Theo token và thời gian chạy, đo lường chi tiết; không tính phí khi không có yêu cầu.
vLLM và mô hình mở phổ biến, có thể hoán đổi nóng.
Vài giây — phù hợp lưu lượng đột biến.
Tải cao ổn định → dự phòng; đột biến → Serverless.