Alternativen zu LiteLLM: 6 Tools im Vergleich (Oktober 2026)

Auswahl: welche Alternative zu LiteLLM in welcher Lage passt

Portkey (Prisma AIRS AI Gateway)

Passt zu Teams, die ein gehostetes Gateway mit Protokollen, Leitplanken und Prompt-Verwaltung wollen und hinnehmen, dass Palo Alto Networks den Anbieter jetzt besitzt. Production kostet 49 $ im Monat für 100.000 protokollierte Logs, das Open-Source-Gateway steht unter MIT-Lizenz.

OpenRouter

Geeignet für Teams, die eine Schnittstelle und eine Rechnung für über 500 Modelle ohne eigene Server wollen. Standard erhebt 5,5 Prozent auf Guthabenkäufe, mit eigenen Anbieterschlüsseln fallen auf die ersten 25.000 $ Nutzung zum Listenpreis im Monat keine Gebühren an.

Orq.ai

Richtet sich an Teams, die ein in der EU gebautes und gehostetes Gateway mit OpenAI-kompatiblem Endpunkt, Budgets je Team und Schwärzung personenbezogener Daten brauchen. Pay-as-you-go hat keine Grundgebühr und 4,5 Prozent auf Orq.ai-Guthaben.

Dataiku

Nur interessant, wenn Sie Dataiku schon für Daten und maschinelles Lernen nutzen. Der LLM Mesh legt Kontingente und Kostenkontrolle über den Modellzugriff innerhalb der Plattform, einen Preis nennt der Anbieter nicht.

Was ein Gateway bei 100.000 und 1.000.000 Anfragen im Monat kostet

Die Anbieter rechnen nicht dasselbe ab. Der Open-Source-Code von LiteLLM kostet keine Lizenz und verlagert die Rechnung auf Ihre Server. Portkey berechnet protokollierte Logs, OpenRouter und Orq.ai einen Prozentsatz der Guthaben, Dataiku verkauft eine Plattform. Ich habe deshalb einen Vergleichsfall festgelegt: 100.000 Anfragen mit 1.000 $ Modellkosten im Monat, dann das Zehnfache, und jeweils die Listenregel des Anbieters angewandt.

LiteLLM selbst zu betreiben ist nicht aufwandsfrei. Der Produktivleitfaden verlangt einen Pod mit 1 vCPU und 4 Gi Speicher als Anforderung und Grenze, PostgreSQL für virtuelle Schlüssel und ab mehr als einer Instanz Redis 7.0 oder neuer. Fällt die Datenbank aus, arbeiten zwischengespeicherte Schlüssel standardmäßig 60 Sekunden weiter, nicht zwischengespeicherte Abfragen scheitern. Der Anbieter nennt keinen Serverpreis, deshalb habe ich für diesen Teil keine Zahl.

Was das für Sie heißt: Bei diesen Mengen liegt eine gehostete Gebühr zwischen 49 $ und 800 $ im Monat. Das ist oft weniger als die Arbeitszeit einer Person, die den Proxy pflegt und überwacht, aber mehr als 0 $, und bei den Prozent-Anbietern wächst sie mit den Ausgaben. Setzen Sie Ihre eigene Anfragezahl in die Tabelle ein, bevor Sie entscheiden.

Belege: [1][2][3][4][5][6][7]

Bleiben oder wechseln: Lizenz, Funktionen und Betrieb

Nicht jeder sollte gehen. Das Repository von LiteLLM hatte 61.283 Sterne, als ich den GitHub-Datensatz am 15. Oktober 2026 abrief, und die neueste Version v1.105.1 erschien am 14. Oktober. Das Projekt ist aktiv, und seine LICENSE-Datei stellt alles außerhalb des Verzeichnisses enterprise/ unter die MIT-Lizenz.

Lizenz. Das Verzeichnis enterprise/ hat eine eigene Lizenz. Sie erlaubt, die Software für Entwicklung und Tests ohne Abonnement zu kopieren und zu ändern, und verbietet den Produktivbetrieb ohne gültiges Abonnement für die passende Zahl an Plätzen. Wer in einer Testphase SSO oder Audit-Logs aus diesem Verzeichnis eingeschaltet und weiterlaufen lassen hat, sollte hier zuerst handeln.

Funktionen. Zwei Seiten von LiteLLM widersprechen sich. Die Enterprise-Seite führt virtuelle Schlüssel mit Budgets unter den Governance-Funktionen. Die Startseite führt virtuelle Schlüssel, Budgets und Teams im Gratis-Tarif, und die Schlüsseldoku, die ich gelesen habe, markiert die Schlüsselrotation als Enterprise-Funktion. SSO, SCIM, JWT-Authentifizierung, Audit-Logs und rollenbasierte Zugriffe sind auf beiden Anbieterseiten Enterprise. Prüfen Sie Ihren genauen Funktionsumfang mit dem 30-Tage-Testschlüssel, bevor Sie zahlen oder gehen.

Betrieb. Ein Gateway hält jeden Anbieterschlüssel, und die Sicherheitsmeldungen von LiteLLM zeigen, was dessen Betrieb kostet. Die Liste unten führt sie mit Datum auf. Der Anbieter nennt die betroffenen Versionen, das spricht für ihn.

Was das für Sie heißt: Kümmert sich niemand um Updates und festgelegte Versionen, verlagert ein gehostetes Gateway diese Aufgabe auf einen Anbieter, und die Preistabelle zeigt den Preis dafür. Müssen Prompts und Protokolle auf Ihren eigenen Servern bleiben, kostet der Wechsel womöglich mehr, als er spart.

Belege: [8][9][2][10][11][12][13][14][15][16]

Die vier Alternativen, und für wen sie nichts sind

Portkey verkauft ein gehostetes Gateway mit Protokollen, Leitplanken, Prompt-Verwaltung und rollenbasiertem Zugriff. Developer ist kostenlos mit 10.000 protokollierten Logs und 3 Tagen Aufbewahrung, und Portkey nennt den Tarif nicht für Produktivbetrieb geeignet. Production kostet 49 $ im Monat, hält Logs 30 Tage und Kennzahlen 90 Tage, die Überschreitungsregel gilt bis 3 Millionen Logs. SSO, Private Cloud und Datenexport gehören zu Enterprise. Die Website heißt nach der Übernahme jetzt Prisma AIRS AI Gateway, und die Pressemitteilung sichert Kunden weiteren Support zu, ohne das Open-Source-Gateway zu erwähnen. Dessen Repository steht unter MIT-Lizenz, der letzte Push war am 25. Mai 2026. Wer Portkey wegen seiner Unabhängigkeit gewählt hat, muss neu bewerten, denn diese endete am 29. Mai 2026.

OpenRouter ist das Gegenteil von LiteLLM. Sie betreiben nichts, eine Schnittstelle erreicht über 500 Modelle von über 80 Anbietern. Laut FAQ gibt OpenRouter die Preise der Anbieter ohne Aufschlag auf die Inferenz weiter, die Gebühr fällt beim Guthabenkauf an. Prompts und Antworten speichert es standardmäßig nicht, Protokollierung ist freiwillig. Routing in EU und USA gibt es nur in Business und Enterprise, und es scheitert, wenn in der Region kein Anbieter das Modell bedient. Nicht geeignet für Teams, die Ausgabenkontrolle je Team im eigenen Netz brauchen oder SSO im Tarif Standard.

Orq.ai kommt aus Amsterdam und hostet standardmäßig in der EU. Das Gateway bietet einen OpenAI-kompatiblen Endpunkt zu über 500 Modellen von über 30 Anbietern, Budgets je Person und Team sowie Schwärzung personenbezogener Daten. Die Preisseite nennt SOC 2 Type II und ISO 27001. Orq.ai löscht Beobachtungsdaten nach 14 Tagen im Tarif Free und nach 30 Tagen bei Pay-as-you-go. Wer jede Spur ein Jahr aufheben will, braucht einen individuellen Tarif, und wer nur einen Proxy sucht, bezahlt mehr Plattform, als er nutzt.

Dataiku ist eine Plattform für Daten und maschinelles Lernen, ihr LLM Mesh ist eine Gateway-Schicht darin. Die Produktseite nennt Kontingente, Budgetdurchsetzung und Nutzungserfassung, der Index der Doku zeigt einen Abschnitt zu einer OpenAI-kompatiblen API. Ich habe nur den Index gelesen, nicht die Einzelheiten. Es richtet sich an Firmen, die Dataiku schon bezahlen. Wer nur einen Proxy ersetzen will, sollte sich die anderen drei ansehen.

Was das für Sie heißt: Eine gehostete Steuerzentrale spricht für Portkey, eine Rechnung ohne Server für OpenRouter und Hosting in der EU für Orq.ai. Dataiku passt nur zu einer vorhandenen Datenplattform.

Belege: [3][17][18][16][19][4][5][20][21][6][22][23][7][24]

Was der Abschied kostet: Bedingungen, Kündigung, Export, Löschung

LiteLLM ist Software, die Sie selbst betreiben, deshalb ist der Abschied meist Konfiguration. Die Modellliste liegt in config.yaml, wahlweise auch in der Datenbank. Ausgaben stehen je Schlüssel, Person und Team in einer Tabelle SpendLogs, und der Endpunkt /spend/logs/v2 blättert durch bis zu 1.000 Zeilen auf einmal. Clients, die schon das OpenAI-Format sprechen, ändern eine Basis-URL und einen Modellnamen.

Schwerer wiegt der Vertrag mit dem nächsten Anbieter. Ich habe die Bedingungen am 15. Oktober 2026 gelesen. OpenRouter lässt Sie jederzeit kündigen, erstattet ungenutztes Guthaben aber nur binnen 24 Stunden, lässt es nach 365 Tagen verfallen und erstattet keine Plattformgebühren. Orq.ai beendet ein Abonnement zum Laufzeitende ohne Teilerstattung und verlangt zwei Monate schriftliche Frist für einen Anbieterwechsel. Die Seite Terms von Portkey enthält keinen Vertragstext, deshalb kann ich dessen Laufzeit und Frist nicht nennen. Die Zusatzvereinbarung von Dataiku nennt die Löschung nach Vertragsende ohne Frist.

Was das für Sie heißt: Die Kündigungsfrist ist selten der teure Teil. Teurer sind zwei Gateways während des Parallelbetriebs, neu ausgegebene Schlüssel und neu gebaute Ausweichregeln. Halten Sie Guthaben bei Pay-as-you-go-Anbietern klein, damit der Verfall wenig schmerzt, und fragen Sie Portkey vor der Unterschrift nach dem Vertrag.

Belege: [25][26][27][9][28][29][30][31][32][33][34][35][36]

Korrekturen, Widersprüche und was ich weggelassen habe

Einen Wert aus unseren eigenen Daten habe ich aktualisiert. Unser Profil zu LiteLLM nannte rund 59.800 GitHub-Sterne vom 28. September, der GitHub-Datensatz zeigt am 15. Oktober 61.283. Die übrigen geprüften Einträge stimmten mit den Seiten der Anbieter überein, etwa Portkeys Tarif für 49 $ sowie die Gebühren von 5,5 Prozent bei OpenRouter und 4,5 Prozent bei Orq.ai.

An zwei Stellen widersprachen sich die Quellen. Die Doku von LiteLLM sagt 100+ LLMs, die Startseite 140+ Anbieter, und Enterprise-Seite und Startseite ordnen virtuelle Schlüssel verschiedenen Tarifen zu. Das Repository von Portkey zeigt im GitHub-Datensatz 13.191 Sterne, der Fußbereich der Website nennt 10,2K.

Weggelassen habe ich Msty, einen Desktop-Client für Sprachmodelle, und Artificial Analysis, eine Benchmark-Seite. Beide leiten keinen Produktivverkehr. Ebenfalls weggelassen habe ich Meinungen von Bewertungsportalen und Reddit-Threads, weil sie keine Primärquellen sind, und ich habe den Tarif Enterprise von Portkey nicht bepreist, weil er keinen öffentlichen Preis hat.

Belege: [12][27][10][2][19][3][4][6]