Function Calling / Tool Use
Wie ein LLM Werkzeuge aufruft: Tool-Definition als Schema, Modell wählt Funktion und Argumente, Ergebnis zurück ins Gespräch — der Grundbaustein jedes Agenten.
Redaktion
Praktische Aspekte der LLM-API-Nutzung — Streaming, Caching, Rate Limits.
Wie ein LLM Werkzeuge aufruft: Tool-Definition als Schema, Modell wählt Funktion und Argumente, Ergebnis zurück ins Gespräch — der Grundbaustein jedes Agenten.
Praktische API-Mechanik jenseits des Pricings: Streaming für UX, Prompt Caching gegen Token-Kosten, Batch-API für Massenjobs, Rate Limits ohne 429-Drama.