MLX LM Überblick und Eckdaten (Oktober 2026)

MLX LM ist ein quelloffenes Python-Paket, das große Sprachmodelle auf Macs mit Apple Silicon ausführt und feinabstimmt. Es baut auf MLX auf, dem Framework der Apple-ML-Forschung.

Das Paket bietet Kommandozeilenbefehle wie mlx_lm.generate und mlx_lm.chat sowie eine Python-API. Es lädt Modelle vom Hugging Face Hub, konvertiert und quantisiert sie und unterstützt LoRA- und vollständiges Fine-Tuning. Für lange Kontexte gibt es einen rotierenden Key-Value-Cache und Prompt-Caching, verteilte Inferenz nutzt mehrere Macs. Das Repository liegt in der Organisation ml-explore, die letzte Änderung stammt vom 24. September 2026.

• Betreibt Modelle auf dem MacMLX LM lädt quantisierte Modelle vom Hugging Face Hub und erzeugt Text auf Apple Silicon mit dem gemeinsamen Arbeitsspeicher des Geräts. Entwicklerteams und Analysten testen Modelle so lokal, ohne GPU-Server zu mieten.
• Stimmt Modelle auf Firmendaten abLaut Projektbeschreibung funktionieren LoRA- und vollständiges Fine-Tuning auch mit quantisierten Modellen. Ein Team kann so ein kleines Modell auf einem einzigen Mac an die eigene Fachsprache anpassen, die Trainingsdaten bleiben auf dem Gerät.
• Verkleinert Modelle für schwächere GeräteDas Konvertierungswerkzeug quantisiert Modelle auf niedrigere Bitbreiten. Größere Modelle passen dadurch in den Speicher der Laptops im Team.

• Nur für Apple Silicon gebaut, Windows, Linux und NVIDIA-GPUs sind kein Ziel.
• Gepflegt in der Organisation ml-explore der Apple-ML-Forschung, neben dem Framework MLX.

Quelloffene Software ohne Länderbindung, nutzbar auf jedem Mac mit Apple Silicon.

MLX LM braucht Macs mit Apple Silicon und genug Arbeitsspeicher für die gewählten Modelle. Prüfen Sie daher zuerst Ihren Gerätebestand. Es ist ein Werkzeug für Entwicklerteams ohne Supportvertrag. Klären Sie die Lizenzen der Modelle, bevor Sie sie feinabstimmen oder in Produkten einsetzen.

Noch keine Bewertung. Erzählen Sie als Erste:r, wie Ihr Team es nutzt.

Jede Bewertung zeigt ihre Prüfstufe. Wir lesen jede vor der Veröffentlichung. So prüfen wir Bewertungen