Begriff
Safetensors
Safetensors ist ein von Hugging Face entwickeltes Dateiformat zum Speichern von Modellgewichten — schneller, sicherer und sprachübergreifender als das ältere PyTorch-Format `.pt`/`.bin`.
Safetensors — ausführlicher erklärt
Das klassische PyTorch-Format speichert Tensoren über Pythons pickle-Modul. pickle kann beim Laden beliebigen Python-Code ausführen — ein heruntergeladenes Modell-File konnte also theoretisch das System kompromittieren. Safetensors behebt das, indem es ein striktes, header-basiertes Binärformat nutzt: ein JSON-Header beschreibt Tensor-Namen, Datentyp und Form, danach folgen die rohen Bytes. Kein Code-Pfad, keine Code-Ausführung. Zusätzlich erlaubt das Format Memory-Mapped-Loading: Gewichte werden nicht erst komplett gelesen, sondern direkt aus der Datei in den GPU-Speicher gemappt, was Ladezeiten großer Modelle deutlich verkürzt.
Beispiel / Praxisbezug
Heute liefern fast alle aktuellen Modelle auf Hugging Face Safetensors-Dateien (.safetensors) als Standard aus — oft parallel neben einer Legacy-.bin-Datei für ältere Toolchains. In Inferenz-Servern wie vLLM oder TGI ist Safetensors der bevorzugte Eingang, weil das Mapping in den GPU-Speicher beim Start eines 70B-Modells schnell Sekunden statt Minuten kostet. In Trainings-Pipelines lassen sich Adapter und Checkpoints ebenfalls als Safetensors abspeichern.
Abgrenzung zu ähnlichen Begriffen
PyTorch .pt/.bin (pickle) ist das ältere Standardformat — flexibel, aber unsicher beim Laden fremder Dateien. GGUF ist ein quantisiertes Format speziell für die llama.cpp-Familie, optimiert auf CPU-Inferenz und mit eingebetteten Tokenizer-Daten. ONNX ist ein framework-unabhängiges Tausch-Format für Inferenz-Optimierung. Safetensors deckt den Bereich „sichere, schnelle Gewichts-Serialisierung im PyTorch-Ökosystem” ab.
Entdecke mehr
KI-Workflows per Keyword: Wie wir wiederkehrende Abläufe erzwingbar machen
Ein getipptes Keyword löst bei uns einen festen KI-Ablauf aus — und jeder Schritt muss committet werden, bevor der nächste kommt. Warum das der Trick ist.
GlossarReasoning Effort
Reasoning Effort ist ein Steuerparameter moderner Reasoning-Modelle, der festlegt, wie viel internes Schritt-für-Schritt-Denken (Thinking-Tokens) ein Modell vor der Antwort aufwendet — höhere Stufen erhöhen Qualität, aber auch Latenz und Kosten.
LexikonHalluzinationen bei LLMs — Ursachen und Gegenmittel
Warum LLMs selbstbewusst Falsches erfinden, welche Typen von Halluzinationen es gibt und welche Gegenmittel wirklich helfen — RAG, Quellenzwang, Verifikation.