Multimodales Modell von Mistral AI aus Paris für Agenten und Programmierung, per API und mit offenen Gewichten.
Lokale und offene Sprachmodelle für Unternehmen (Oktober 2026)
Diese Kategorie umfasst Sprach- und Embedding-Modelle mit veröffentlichten Gewichten.
So entsteht die Reihenfolge: So prüfen wir
Ergebnisse
Mixture-of-Experts-Modell von Cohere aus Toronto mit Reasoning, Bildeingabe und 48 Sprachen, auch mit offenen Gewichten.
Offene Reranker-Modelle von Mixedbread unter Apache 2.0 für über 100 Sprachen und Code, auch über die Such-API des Anbieters nutzbar.
Offene Unternehmensmodelle von IBM in den Größen 3B, 8B und 30B, unter Apache 2.0 und mit ISO-42001-Zertifizierung.
Reranker-Modelle von Jina AI aus Berlin, seit 2025 Teil von Elastic: mehrsprachig, mit langem Kontext und multimodaler Variante.
Offenes, mehrsprachiges Reranker-Modell der Beijing Academy of Artificial Intelligence unter Apache 2.0, schlank genug für eigene Server.
Offenes Embedding-Modell der Beijing Academy of AI für über 100 Sprachen mit dichter, spärlicher und Multi-Vektor-Suche in einem Modell.
Offenes multimodales Mixture-of-Experts-Modell von DeepSeek mit einer Million Token Kontext und stark verkleinertem KV-Cache.
Offenes Code-Modell von Mistral AI für Programmier-Agenten, läuft mit 24 Milliarden Parametern auf einer RTX 4090 oder einem Mac mit 32 GB.
Pretraining-Datensatz von Hugging Face mit 1,3 Billionen Tokens lehrreicher Webseiten, per KI-Klassifikator aus Common Crawl ausgewählt.
Offene multimodale Modellfamilie von Google DeepMind in fünf Größen, von E2B für Mobilgeräte bis 31B, mit Denkmodus.
Offene Reasoning-Modelle von OpenAI in zwei Größen, 120b für eine 80-GB-GPU und 20b für 16 GB Speicher, unter Apache 2.0.
Mehrsprachige Embedding-Modelle von Jina AI aus Berlin, Version small mit 677 Millionen Parametern und 32.768 Token Eingabe.
Offenes Hybridmodell von Mistral AI, das Instruct, Reasoning und Programmierung vereint, mit Bildeingabe und 256.000 Token Kontext.
Offenes Code-Modell von Alibaba für Programmier-Agenten mit 80 Milliarden Parametern, davon nur 3 Milliarden aktiv.
Aktuelle offene Modellgeneration von Alibaba mit Bild- und Videoverständnis, einstellbarem Denken und bis zu einer Million Token Kontext.
Kleines offenes Sprachmodell aus dem deutschen Projekt OpenGPT-X, trainiert für alle 24 EU-Amtssprachen.
Offenes Basismodell von Amazon für Zeitreihenprognosen ohne Training, mit Unterstützung für mehrere Reihen und Einflussgrößen.
Technischer Bericht von Meta FAIR zu DINOv3, einer Familie selbstüberwacht trainierter Bildmodelle mit hochwertigen dichten Merkmalen.
Artikel aus Peking (Tsinghua, ModelBest) über kleine Sprachmodelle mit 1,2 und 2,4 Milliarden Parametern und skalierbares Training.
Benchmark und Werkzeugkasten für Embedding- und Retrieval-Modelle mit über 1.000 Aufgaben und Rangliste auf Hugging Face.
Offenes Vision-Language-Action-Modell von NVIDIA für Handhabungsaufgaben humanoider und anderer Roboter, mit eigenem Feintuning.
Offenes Basismodell von Google Research für Zeitreihenprognosen mit Quantil-Ausgabe, auch direkt in BigQuery nutzbar.
Open-Source-Werkzeug für schnelleres Feintuning von Sprachmodellen mit weniger Grafikspeicher, mit LoRA, QLoRA und Reinforcement Learning.
Worauf es bei Lokale und offene Sprachmodelle für Unternehmen (Oktober 2026) ankommt
Diese Kategorie umfasst Sprach- und Embedding-Modelle mit veröffentlichten Gewichten. Unternehmen können sie herunterladen und auf eigenen Servern, in einer privaten Cloud oder auf Laptops betreiben. Sie gliedert sich in Allzweckmodelle, Code-Modelle für Programmier-Agenten, Embedding-Modelle für Bedeutungssuche und RAG sowie kleine Modelle, die auf einer einzelnen GPU oder auf Endgeräten laufen.
Unternehmen greifen zu offenen Modellen, wenn Daten die eigene Infrastruktur nicht verlassen dürfen, wenn sie bei großen Mengen planbare Kosten wollen oder ein Modell mit internen Beispielen nachtrainieren möchten. Typische Einsätze sind interne Chat-Assistenten, das Auslesen von Dokumenten, Code-Assistenten, die keinen Quellcode nach außen schicken, und Wissenssuchen, bei denen ein Embedding-Modell Dokumente in Vektoren umwandelt.
Offen heißt nicht immer frei für die geschäftliche Nutzung. Lesen Sie die Lizenz: Apache 2.0 und MIT erlauben kommerzielle Nutzung, Lizenzen mit dem Zusatz nicht kommerziell verlangen eine eigene Vereinbarung, und eigene Lizenzen der Anbieter wie die Qwen Community License schränken bestimmte kommerzielle Angebote ein. Innerhalb einer Modellfamilie können die Größen unter verschiedenen Lizenzen stehen. Planen Sie den Betrieb, denn Ihr Team ist dann für GPU-Kapazität, Sicherheitsupdates, Überwachung und Modellwechsel zuständig. Prüfen Sie den Hardwarebedarf, testen Sie die Qualität in Ihren Sprachen und dokumentieren Sie die eingesetzte Version.
Häufige Fragen zu Lokale und offene Sprachmodelle für Unternehmen (Oktober 2026)
Sind offene Modelle kommerziell frei nutzbar?
Viele ja, etwa unter Apache 2.0 oder MIT. Manche stehen unter nicht kommerziellen Lizenzen wie CC BY-NC 4.0, und manche Anbieterlizenzen schränken bestimmte kommerzielle Nutzungen ein, etwa das Anbieten des Modells als Dienst für Dritte. Prüfen Sie immer die Lizenz genau der Version und Größe, die Sie einsetzen.
Welche Hardware brauche ich für den lokalen Betrieb?
Das hängt von der Größe ab. Kleine Modelle mit wenigen Milliarden Parametern laufen auf Laptops oder einer einzelnen Grafikkarte, große Mixture-of-Experts-Modelle brauchen eine oder mehrere Rechenzentrums-GPUs. Die Modellkarte nennt die Anforderungen meist.
Löst der lokale Betrieb die Datenschutzfragen?
Eingaben und Dokumente bleiben in Ihrer Infrastruktur, die Übermittlung an einen externen Anbieter entfällt. Zugriffsrechte, Protokollierungsregeln und ein klarer Zweck für die Verarbeitung personenbezogener Daten bleiben trotzdem nötig. Bei Auswertungen über Beschäftigte ist der Betriebsrat zu beteiligen.
Zuletzt aktualisiert:























