llamafile Überblick und Eckdaten (Oktober 2026)

llamafile verpackt ein offenes Sprachmodell und seine Laufzeit in eine einzige ausführbare Datei, die auf den meisten Betriebssystemen ohne Installation startet. So lässt sich lokale KI leicht an Kolleginnen und Kollegen weitergeben oder auf gesperrten Rechnern nutzen.

Das Projekt entstand im Programm Mozilla Builders und wird heute von Mozilla.ai gepflegt. Es baut auf llama.cpp und whisper.cpp auf und verbindet sie mit einem portablen Dateiformat. Mit Version 0.10.0 wurde das Build-System umgebaut, um neueren llama.cpp-Versionen enger zu folgen und neuere Modelle zu unterstützen. Das Begleitwerkzeug whisperfile macht dasselbe für Sprache zu Text. Die letzte Änderung im Repository stammt vom 25. September 2026.

• Verteilt ein Modell als eine DateiEine llamafile enthält Modellgewichte und Laufzeit zusammen und startet mit einem Befehl, ohne Installation. Die IT kann ein freigegebenes Modell so als einzelne Datei verteilen, statt auf jedem Rechner eine Laufzeitumgebung einzurichten.
• Bietet eine lokale APIMit der Option --server startet eine llamafile den Server von llama.cpp, der eine zu OpenAI kompatible Schnittstelle bereitstellt. Interne Skripte rufen dann das lokale Modell statt eines Cloud-Dienstes auf, die Daten bleiben auf dem Gerät.
• Transkribiert Aufnahmen lokalWhisperfile wandelt Sprache in Text um und übersetzt sie auf demselben Rechner. Teams können Interviews oder Besprechungen transkribieren, ohne Audio bei einem externen Anbieter hochzuladen.

• Verteilung als eine Datei, die ohne Installation auf verschiedenen Betriebssystemen und CPU-Architekturen läuft.
• Gepflegt von Mozilla.ai, mit einem Sprach-Werkzeug (whisperfile) im selben Repository.

Quelloffene Software ohne Länderbindung, die auf eigener Hardware in jedem Land läuft.

Ausführbare Dateien mit eingebettetem Modell sind groß und können Virenscanner auslösen. Stimmen Sie mit der IT-Sicherheit ab, wie sie freigegeben und verteilt werden. Der Code ist kostenlos, jedes Modell behält aber seine eigene Lizenz. Laut Projektdokumentation fehlen in Version 0.10 noch einige frühere Funktionen, etwa GPU-Unterstützung unter Windows und Bilderzeugung mit Stable Diffusion. Testen Sie bestehende Abläufe vor einem Update.

Noch keine Bewertung. Erzählen Sie als Erste:r, wie Ihr Team es nutzt.

Jede Bewertung zeigt ihre Prüfstufe. Wir lesen jede vor der Veröffentlichung. So prüfen wir Bewertungen