Baseten
Baseten ist eine Inferenz-Plattform für Teams, die offene, feingetunte oder eigene KI-Modelle produktiv betreiben. Sie bietet gehostete Model APIs, dedizierte GPU-Deployments mit Autoskalierung und Trainingsjobs, in der Cloud von Baseten oder in der eigenen Umgebung.
Wichtige Funktionen
- Dedizierte Deployments skalieren bis auf null Replikate, GPU-Zeit wird minutengenau abgerechnet
- Model APIs mit OpenAI-kompatiblem Endpunkt für gehostete offene Modelle
- Inferenz-Engines auf Basis von TensorRT-LLM für Sprachmodelle und BEI für Embeddings
Im Vergleich zu DeepInfra
- Bietet einen Gratis-Test, bei DeepInfra haben wir keinen gefunden.
- Startet günstiger: ab 0,01 $ nutzungsbasiert, DeepInfra ab 0,02 $ nutzungsbasiert.
- Stark in denselben Märkten wie DeepInfra: USA.
Vor dem Kauf klären: Klären Sie, welche GPU-Typen und Regionen Ihre Workloads brauchen. Die Preisliste gilt für die Standardkapazität, andere Länder und Regionen laufen über den Vertrieb. Für personenbezogene Daten aus der EU prüfen Sie den öffentlichen Auftragsverarbeitungsvertrag, die Liste der Unterauftragsverarbeiter im Trust Center und die Standardvertragsklauseln für die Übermittlung. Vergleichen Sie für Ihr Lastprofil die Minutenpreise mit den Tokenpreisen. Eigene SLAs gibt es nur im Enterprise-Tarif.








