Sin instancias pre-provisionadas — escale según el tráfico, a cero cuando se retira. Facturado por token y segundo, arranque en frío en segundos.
Concéntrese en el negocio, nosotros manejamos la infraestructura.
Activado bajo demanda, sin siempre activo.
Elástico con concurrencia, sin caídas en picos.
Por token/segundo; costo cero cuando inactivo.
vLLM integrado y modelos abiertos principales.
Por token y tiempo de ejecución, medido finamente; sin cargo cuando no hay solicitud.
vLLM y modelos abiertos principales, intercambiables en caliente.
Segundos — encaja en tráfico ráfaga.
Carga alta estable → reservado; irregular → Serverless.