garak Überblick und Eckdaten (Oktober 2026)

garak ist ein Open-Source-Scanner für die Kommandozeile von NVIDIA, der große Sprachmodelle auf Sicherheitsschwächen testet, ähnlich einem Penetrationstest-Werkzeug, für Sicherheits- und ML-Teams vor und nach dem Einsatz.

garak schickt Serien von Probes an ein Modell und bewertet mit Detektoren, ob die Antworten ein Versagen zeigen. Zu den Probe-Familien gehören Jailbreaks im DAN-Stil, Prompt Injection, Angriffe über Kodierungen, Glitch-Tokens, Datenabfluss, Falschinformation und Toxizität. garak verbindet sich mit Hugging Face, OpenAI, AWS Bedrock, Cohere, Groq, Replicate und beliebigen REST-Endpunkten und schreibt Ergebnisse als JSONL mit Fehlerquoten je Probe. Das Repository steht unter Apache-2.0-Lizenz und hatte rund 9.400 Sterne mit Commits am 16. September 2026.

• Modell auf Jailbreaks scannenJailbreak-Probes probieren bekannte und erzeugte Angriffs-Prompts gegen das Zielmodell aus. Sicherheitsteams erhalten eine Fehlerquote je Angriffsart statt Einzeltests.
• Eigene Endpunkte testenÜber den REST-Generator wird garak auf einen internen Chatbot oder eine API gerichtet. Unternehmen testen ihre eigene Anwendung samt System-Prompt und Filtern.
• Modelle und Versionen vergleichenWiederholbare Scans liefern vergleichbare Berichte. Teams prüfen, ob eine neue Modellversion oder ein geänderter Prompt die Anwendung anfälliger macht.

• Scanner für die Kommandozeile nach dem Vorbild von Penetrationstest-Werkzeugen, leicht in CI-Pipelines einzubauen.
• Breite Liste an Anbindungen, von Hugging-Face-Modellen bis zu beliebigen REST-Endpunkten.

garak ist ein weltweit genutztes Open-Source-Werkzeug von NVIDIA, das lokal oder in der eigenen CI läuft.

Scans schicken viele Anfragen an das Zielmodell, das verursacht API-Kosten und kann Ratenlimits auslösen. Holen Sie eine Freigabe ein, bevor Sie Dienste Dritter scannen. Ergebnisse zeigen Anfälligkeiten, keine Garantien, kombinieren Sie garak bei kritischen Systemen mit manuellem Red Teaming.

Noch keine Bewertung. Erzählen Sie als Erste:r, wie Ihr Team es nutzt.

Jede Bewertung zeigt ihre Prüfstufe. Wir lesen jede vor der Veröffentlichung. So prüfen wir Bewertungen