사전 프로비저닝 인스턴스 없음 — 트래픽에 따라 확장, 종료 시 0까지 축소. 토큰·초 단위 과금, 콜드 스타트 수 초.
비즈니스에 집중, 인프라는 맡기세요.
요청 시 기동, 상시 가동 없음.
동시실행의 탄력성, 피크에서도 끊기지 않음.
토큰/초 단위, 유휴 시 비용 0.
내장 vLLM 및 주류 오픈 모델.
토큰·런타임 단위 정밀 계량, 요청 없으면 과금 없음.
vLLM와 주류 오픈 모델, 핫스왑 가능.
수 초 — 버스트성 트래픽에 적합.
꾸준히 높은 부하 → 예약형, 스파이크형 → 서버리스.