推理即服务

Serverless 推理 按流量付费

无需预置实例,流量来即弹,流量走即缩。按 Token 与运行时长计费,冷启动控制在秒级。

核心能力

把推理变成 API

专注业务,基础设施交给我们。

⚡

秒级冷启

请求到达即拉起,无需常驻。

📐

自动扩缩

随并发弹性伸缩,峰值不掉链。

🪙

按量计费

按 Token/秒结算,闲时不花钱。

🧩

多模型

内置 vLLM 与主流开源大模型。

模式

计费与接入

计费

按 Token/秒

精细化计量
粒度Token+秒
最低闲时为零
币种多币种
成本可预期。
接入

统一 API

OpenAI 兼容
协议兼容
SDK多语言
切换模型热换
接入零摩擦。
性能

高吞吐

vLLM 加速
引擎vLLM
批处理连续
延迟低
生产级推理。

把推理成本降到最低

只为真实使用的算力付费。

FAQ

常见问题

Serverless 推理如何计费?

按 Token 与运行时长精细化计费,无请求时不产生费用。

支持哪些模型?

支持 vLLM 与主流开源大模型,可热切换。

冷启动要多久?

控制在秒级,适合脉冲式流量。

与包月实例怎么选?

稳定高负载选包月,波动流量选 Serverless。

用 Serverless 推理告别闲置成本

接入统一 API,按流量弹性付费。