Schema-guided Reasoning vs. Structured Outputs für LLMs
Automatische Übersetzung
Dieser Artikel wurde automatisch aus der englischen Originalversion übersetzt.
Verwenden Sie Structured Outputs, wenn Ihr Programm Felder mit einer definierten Struktur benötigt. Ergänzen Sie Schema-guided Reasoning (SGR), wenn das Programm oder ein Reviewer zusätzlich Zwischendatensätze benötigt, etwa Quellbelege und eine vorgeschlagene Entscheidung. SGR verwendet Structured Output, um diese Schritte auszudrücken; es ist keine separate Garantie dafür, dass die Antwort korrekt ist.
Wenn das aufrufende Programm nur eine Kategorie und eine Quellen-ID benötigt, belassen Sie es bei diesen Feldern. Fügen Sie Analysefelder nur hinzu, wenn Sie erklären können, wie sie geprüft oder verwendet werden.
Zuletzt geprüft: 2026-09-08.
Was die einzelnen Ebenen leisten
| Ebene | Was sie bereitstellt | Was sie nicht feststellen kann |
|---|---|---|
| Prompt für JSON-Formatierung | Anweisungen zur Rückgabe von JSON | Dass die Antwort einem Schema folgt |
| Durch ein Schema begrenzte Ausgabe | Eine Antwort, die dem unterstützten Schema folgt, sofern die Generierung erfolgreich abgeschlossen wird | Dass die Werte korrekt sind |
| SGR-Schema | Benannte Zwischenfelder und eine vorgeschlagene Entscheidung | Dass ein Feld korrekt aus einem anderen abgeleitet wurde |
| Prüfungen in der Anwendung | Prüfungen von Quellbelegen, Berechnungen und zulässigen Aktionen | Fakten, die die Anwendung nie verifiziert |
Rinat Abdullins Beschreibung von SGR verwendet Schemas als Checkliste für die vom Model zurückgegebenen Ergebnisse. In einem Self-hosted-Setup können Structured Outputs in vLLM JSON Schema über ein Decoding-Backend wie XGrammar erzwingen. Die Definition eines Pydantic-Models allein aktiviert kein Constrained Decoding im Server.
Prüfen Sie die vom ausgewählten Anbieter unterstützte Teilmenge von JSON Schema und den Status der Generierung. Eine Ablehnung, eine abgeschnittene Antwort oder eine fehlgeschlagene Anfrage benötigt jeweils eine eigene Fehlerbehandlung. Auch der Leitfaden zu Structured Outputs für Gemini hebt die zentrale Einschränkung hervor: Eine korrekte JSON-Struktur garantiert keine korrekten Feldwerte.
Ein Rabattvorschlag zeigt den Unterschied
Nehmen wir an, ein Support-Tool darf höchstens 10 % Rabatt anbieten. Eine minimale strukturierte Antwort könnte discount_percent und customer_message enthalten. Wenn ein interner Reviewer Belege benötigt, könnte eine SGR-Antwort zusätzlich policy_source_id und eligibility_evidence enthalten.
Diese zusätzlichen Felder geben dem Reviewer etwas zur Prüfung. Sie machen einen vorgeschlagenen Rabatt von 15 % jedoch nicht gültig. Selbst ein Schema, das den Prozentsatz auf 10 begrenzt, kann nicht beweisen, dass dieser Kunde die Voraussetzungen erfüllt.
Vor der Verwendung des Angebots muss der Anwendungscode die geltende Richtlinie und den Kundendatensatz laden, die Berechtigung prüfen und den zulässigen Betrag berechnen. Behandeln Sie die Erklärung des Models als eine zu prüfende Behauptung. Wenn ein späterer Model-Schritt freigegebene Fakten benötigt, validieren Sie diese, bevor Sie diesen Aufruf ausführen. Die Reihenfolge der Felder innerhalb eines JSON-Objekts erzeugt keinen Validierungsschritt.
Wann Zwischenfelder helfen
SGR ist nützlich, wenn eine falsche Antwort eine präzisere Diagnose erfordert. Beispielsweise kann ein Dokumentklassifizierer eine Quellpassage und eine Kategorie zurückgeben. Reviewer können dann zwischen einer schlechten Auswahl der Passage und einer falschen Kategorie trotz guter Belege unterscheiden.
Weniger nützlich ist SGR, wenn jedes Ergebnis um eine lange Erklärung erweitert wird, die niemand liest oder bewertet. Zusätzlicher Output verbraucht Tokens, und eine überzeugende Erklärung kann trotzdem falsch sein.
Vergleichen Sie das kleine Schema und das SGR-Schema anhand derselben gelabelten Fälle und desselben Models. Bewerten Sie die finale Entscheidung getrennt von den Belegen aus den Quellen und der Gültigkeit der Felder. Behalten Sie die Zwischenfelder bei, wenn sie die Entscheidung verbessern oder das Review so nützlich machen, dass der zusätzliche Output gerechtfertigt ist. Unterstellen Sie keinen Genauigkeitsgewinn allein aufgrund des Namens des Schemas.
Weiterführende Lektüre
- Schema-guided Reasoning mit vLLM erklärt Schemas, XGrammar und Richtlinienprüfungen in der Anwendung.
- Schema-guided Agent Memory verwendet typisierte Datensätze und den Quellenverlauf für dauerhaft gespeicherten Zustand.
- Auswahl von NER-Modellen trennt wörtliche Textstellen von Extraktion, die Inference erfordert.