Keine vorab bereitgestellten Instanzen — hochskalieren bei Traffic, auf null skalieren wenn weg. Abgerechnet pro Token und Sekunde, Kaltstart in Sekunden.
Fokus aufs Geschäft, wir kümmern uns um die Infrastruktur.
Auf Anfrage hochgezogen, kein Always-on.
Elastisch mit Nebenläufigkeit, kein Abfall bei Peaks.
Pro Token/Sekunde; null Kosten im Leerlauf.
Integriertes vLLM und gängige Open-Modelle.
Pro Token und Laufzeit, fein gemessen; keine Gebühr wenn keine Anfrage.
vLLM und gängige Open-Modelle, hot-swappable.
Sekunden — passt zu burstigem Traffic.
Stetige hohe Last → reserviert; spiky → Serverless.