Baseten KI-Funktionen, Kosten und Datenschutz (Oktober 2026)

Baseten ist eine Inferenz-Plattform für Teams, die offene, feingetunte oder eigene KI-Modelle produktiv betreiben. Sie bietet gehostete Model APIs, dedizierte GPU-Deployments mit Autoskalierung und Trainingsjobs, in der Cloud von Baseten oder in der eigenen Umgebung.

Die Plattform bietet drei Wege. Model APIs stellen ausgewählte gehostete Modelle über eine OpenAI-kompatible Schnittstelle bereit, die Anthropic Messages API ist in der Beta. Dedizierte Deployments betreiben ein offenes, privates oder eigenes Modell auf reservierten GPUs. Konfiguriert wird per YAML, Python-Klasse oder eigenem Docker-Container. Für Training gibt es Loops zum Feintuning sowie Trainingsjobs mit eigenem Code auf GPU-Clustern.

Baseten verwaltet Modell-Container, GPU-Kapazität über mehrere Clouds und Regionen, Skalierung und Monitoring. Dokumentiert sind Baseten Cloud, Single-Tenant-Betrieb und Self-Hosting, im Enterprise-Tarif auch der hybride Betrieb mit der eigenen VPC. Baseten Labs, Inc. sitzt in San Francisco. Typische Nutzer sind Entwicklungs- und Plattformteams, die KI-Funktionen in eigene Produkte einbauen.

• Modelle mit Autoskalierung betreibenDedizierte Deployments fügen Replikate hinzu oder entfernen sie, je nach gleichzeitigen Anfragen pro Replikat und innerhalb festgelegter Grenzen. Mit dem Standardminimum null fahren alle Replikate ohne Last herunter. Plattformteams zahlen GPU-Minuten also nur, solange ein Modell arbeitet.
• Modelle für schnellere Inferenz kompilierenEngine-Builder-LLM kompiliert dichte Textmodelle mit TensorRT-LLM. BIS-LLM verteilt große Mixture-of-Experts-Modelle auf mehrere GPUs, BEI bedient Embedding-, Reranking- und Klassifikationsmodelle. Wer möchte, lässt Baseten die Engine wählen oder nutzt vLLM oder SGLang im eigenen Container.
• Gehostete Modelle per API aufrufenModel APIs stellen gehostete offene Modelle wie GPT OSS 120B über einen OpenAI-kompatiblen Endpunkt bereit, abgerechnet je Million Token. Entwickler rufen sie mit API-Schlüssel und OpenAI-SDK auf. Das eignet sich für Prototypen, bevor ein Team ein eigenes Deployment aufsetzt.
• Modelle feintunen und trainierenLoops liefert Trainer und Sampler für Supervised Fine-Tuning und Reinforcement Learning auf unterstützten Modellen. Trainingsjobs führen eigenen Code auf GPU-Clustern aus. Die Checkpoints lassen sich direkt auf Baseten ausliefern, ein Umzug der Gewichte auf eine andere Plattform entfällt.

• GPU-Zeit wird minutengenau abgerechnet, von 0,01052 US-Dollar für eine T4 bis 0,16633 US-Dollar für eine B200 (Stand September 2026).
• Der Enterprise-Tarif erlaubt Self-Hosting in der eigenen VPC, hybriden Betrieb, eigene Regionen und Kontrolle über den Datenstandort.
• Model APIs verstehen das Format von OpenAI Chat Completions und in der Beta auch die Anthropic Messages API.
• Die Preisseite nennt für alle Tarife, auch Basic, eine SOC 2 Type II-Zertifizierung und HIPAA-Konformität.

Baseten Labs, Inc. hat laut Datenschutzerklärung seinen Sitz in San Francisco, Kalifornien. Enterprise-Kunden können eigene Regionen und Self-Hosting vereinbaren.

Klären Sie, welche GPU-Typen und Regionen Ihre Workloads brauchen. Die Preisliste gilt für die Standardkapazität, andere Länder und Regionen laufen über den Vertrieb. Für personenbezogene Daten aus der EU prüfen Sie den öffentlichen Auftragsverarbeitungsvertrag, die Liste der Unterauftragsverarbeiter im Trust Center und die Standardvertragsklauseln für die Übermittlung. Vergleichen Sie für Ihr Lastprofil die Minutenpreise mit den Tokenpreisen. Eigene SLAs gibt es nur im Enterprise-Tarif.

Noch keine Bewertung. Erzählen Sie als Erste:r, wie Ihr Team es nutzt.

Jede Bewertung zeigt ihre Prüfstufe. Wir lesen jede vor der Veröffentlichung. So prüfen wir Bewertungen