DeepInfra
DeepInfra bietet eine Inferenz-API für über 100 KI-Modelle mit Abrechnung je Token sowie GPU-Instanzen und dedizierte Cluster, für Entwickler, die Modelle ohne eigene Server betreiben wollen.
Wichtige Funktionen
- Serverlose Inferenz für Text-, Bild-, Sprach- und Embedding-Modelle je Token
- Dedizierte GPUs und Cluster für eigene Modelle
- Keine Speicherung von Ein- und Ausgaben bei der Standard-Inferenz
Im Vergleich zu CoreWeave
- Richtet sich auch an Firmen unter 50 Beschäftigten, CoreWeave nicht.
- Startet günstiger: ab 0,02 $ nutzungsbasiert, CoreWeave ab 6,50 $ nutzungsbasiert.
- Nennt weniger Sicherheitszertifikate: 1, CoreWeave 4.
Vor dem Kauf klären: Anfragen an Modelle von Google oder Anthropic gehen an diese Anbieter und folgen deren Regeln. Prüfen Sie daher, welche Modelle Sie für personenbezogene Daten nutzen. Verarbeitet wird in den USA. Ein Auftragsverarbeitungsvertrag ist nicht veröffentlicht, wenden Sie sich an den Datenschutzbeauftragten. Bei Bulk-Inferenz können Daten länger auf verschlüsselten Festplatten liegen.






