Aucune instance pré-provisionnée — montez en charge selon le trafic, descendez à zéro quand il s'arrête. Facturé par token et seconde, démarrage à froid en quelques secondes.
Concentrez-vous sur le métier, nous gérons l'infrastructure.
Monté à la demande, pas toujours actif.
Élastique avec concurrence, sans chute aux pics.
Par token/seconde ; coût zéro à l'inactif.
vLLM intégré et modèles open-source grand public.
Par token et durée d'exécution, finement mesuré ; aucun frais sans requête.
vLLM et modèles open-source grand public, remplaçables à chaud.
Secondes — adapté au trafic erratic.
Charge stable élevée → réservé ; erratic → Serverless.