FachartikelInternational verfügbar
ICLR-2024-Artikel, der SWE-bench vorstellt: 2.294 echte GitHub-Issues aus 12 Python-Projekten als Prüfstand für Sprachmodelle.
Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations Fachartikel im Überblick (Oktober 2026)
Artikel von Meta über Llama Guard, ein Sprachmodell, das Eingaben und Antworten von Chatbots nach einer Risiko-Taxonomie einstuft.
Was ist Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations?
Der Llama-Guard-Artikel von Meta stellt ein Sprachmodell vor, das Chatbots absichert, indem es Eingaben und Antworten nach einer Risiko-Taxonomie einstuft. Neuere Llama-Guard-Versionen und verwandte Werkzeuge erscheinen im Repository Purple Llama.
Das ursprüngliche Llama Guard ist ein Llama-2-Modell mit 7 Milliarden Parametern, per Instruction-Tuning auf einen kuratierten Datensatz zur Einstufung von Eingaben und Antworten trainiert. Laut Artikel erreicht oder übertrifft es damalige Moderationswerkzeuge auf Benchmarks wie dem OpenAI Moderation Evaluation Dataset und ToxicChat.
Das Repository Purple Llama enthält heute Llama Guard 3 in den Varianten 8B, 1B und 11B mit Bildverständnis, Prompt Guard gegen Prompt-Angriffe, Code Shield und die Benchmarks Cyber Security Eval. Evals und Code Shield stehen unter MIT, die Modelle unter Llama-Community-Lizenzen. Das Repository hatte 4.407 Sterne und wurde am 18. August 2026 geändert.
KI-Funktionen von Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations und ihr Nutzen
- Ein- und Ausgaben von Chatbots filternLlama Guard prüft jede Nutzernachricht und jede Modellantwort gegen festgelegte Risikokategorien und markiert Verstöße. Teams mit internen oder kundennahen Assistenten ergänzen eine Moderationsschicht, die sie selbst betreiben können.
- Prompt Injection abwehrenPrompt Guard stuft Eingaben auf Muster von Prompt Injection und Jailbreaks ein. Anwendungen, die Dokumente oder E-Mails an ein Modell geben, fangen versteckte Anweisungen ab, bevor sie das Modell erreichen.
- Kategorien an Unternehmensregeln anpassenWeil die Taxonomie Teil des Prompts ist, lassen sich Kategorien an eigene Inhaltsregeln anpassen. Compliance- und Sicherheitsteams halten die Moderation so an internen Richtlinien ausgerichtet.
Was Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations besonders macht
- Offene Schutzmodelle, die auf eigener Infrastruktur laufen können.
- Kleine 1B-Variante für Moderation mit geringer Latenz.
- Modellgewichte unter Llama-Community-Lizenzen, Werkzeuge und Evals unter MIT.
Wo Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations am stärksten ist
USA International verfügbar
Der Fachartikel ist frei auf arXiv abrufbar, der zugehörige Code läuft auf eigener Hardware in jedem Land.
Vor dem Kauf von Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations klären
Prüfen Sie vor kommerzieller Nutzung die Bedingungen der Llama-Community-Lizenz für jede Modellversion. Ein Klassifikator irrt in beide Richtungen. Messen Sie Fehlalarme und übersehene Fälle an eigenen Gesprächen und lassen Sie Eskalationen von Menschen prüfen.
Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations in Deutschland und der EU: Datenschutz und AI Act
- DatenhaltungVom Anbieter nicht veröffentlicht.
- AuftragsverarbeitungsvertragVom Anbieter nicht veröffentlicht: anfordern (Art. 28 DSGVO).
- EU AI ActPrüfen, ob die KI Entscheidungen über Menschen vorbereitet. Wenn nicht, greifen die Hochrisiko-Regeln meist nicht. Die Hochrisiko-Pflichten gelten ab dem 2. Dezember 2027 (Digital-Omnibus).
Allgemeine Information mit Quellen, keine Rechtsberatung.
Bewertungen zu Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations
Noch keine Bewertung. Erzählen Sie als Erste:r, wie Ihr Team es nutzt.
Jede Bewertung zeigt ihre Prüfstufe. Wir lesen jede vor der Veröffentlichung. So prüfen wir Bewertungen
Häufige Fragen zu Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations
Welche Llama-Guard-Versionen gibt es?
Das README von Purple Llama nennt Llama Guard, Llama Guard 2 und Llama Guard 3 in den Varianten 8B, 1B und 11B mit Bildverständnis sowie Prompt Guard.
Welche Lizenzen gelten?
Evals und Code Shield stehen unter MIT. Die Llama-Guard-Modelle stehen laut README unter der jeweiligen Llama-Community-Lizenz.
Funktioniert Llama Guard mit anderen Modellen als Llama?
Ja. Es stuft Text-Eingaben und Antworten ein und kann daher vor oder hinter jedem Chatmodell stehen.
Updatearchiv zu Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversationsnoch keine Updates
Für Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations sind noch keine Änderungen erfasst.
Änderungen beim Anbieter und bestätigte Hinweise aus Nutzermeldungen, jeweils an den Seiten des Anbieters geprüft. Wir prüfen jedes Tool monatlich.
Alternativen zu Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations
Tools aus derselben Kategorie (Sicherheit & Evaluierung) mit den meisten gemeinsamen Märkten.