Zurück zum Glossar

Begriff

Llama-3-SauerkrautLM-70b

Llama-3-SauerkrautLM-70b ist ein deutschsprachig DPO-feingetuntes 70B-Modell auf Basis von Meta Llama 3, entwickelt von VAGOsolutions und Hyperspace.ai.

Llama-3-SauerkrautLM-70b — ausführlicher erklärt

Llama-3-SauerkrautLM-70b-Instruct ist eine 2024 veröffentlichte deutschsprachige Variante von Meta Llama 3 70B Instruct. Trainiert per DPO (Direct Preference Optimization) über eine Epoche auf rund 70.000 kuratierten, überwiegend deutschsprachigen Datensätzen. Das Modell ist bilingual (Deutsch und Englisch), behält die Fähigkeiten der Llama-3-Basis bei und übersetzt sie in idiomatisch sauberes Deutsch.

Benchmarks

  • MT-Bench Deutsch: 8,61 Durchschnitt (8,73 First Turn / 8,50 Second Turn) — zum Release-Zeitpunkt einer der höchsten Werte für offene deutschsprachige Modelle.
  • German RAG LLM Evaluation: 98,0 % Gesamtgenauigkeit.
  • Open LLM Leaderboard: 80,98 Durchschnitt (ARC 74,3 / HellaSwag 87,6 / MMLU 81,1 / GSM8K 91,2 / Winogrande 84,7).

Praxisbezug

Verfügbar in EXL2-, GGUF- und AWQ-Quantisierungen — damit lokal lauffähig auf Workstation-Hardware (Q4-Quantisierung passt auf 48 GB VRAM). Lizenz: Meta Llama 3 Community License — kommerzielle Nutzung mit Einschränkungen ab 700 Mio. monatlich aktiven Nutzern. Typische Anwendung: deutschsprachige RAG-Systeme, Behörden- und Business-Chatbots mit Datenschutz-Anforderungen.

Entdecke mehr

Themenuebersicht