Schema-guided Reasoning vs. Structured Outputs für LLMs
Automatische Übersetzung Dieser Artikel wurde automatisch aus der englischen Originalversion übersetzt.
Verwenden Sie Structured Outputs, wenn Ihr Programm Felder mit einer definierten Struktur benötigt. Ergänzen Sie Schema-guided Reasoning (SGR), wenn das Programm oder ein Reviewer zusätzlich Zwischen-Records benötigt, etwa Quellbelege und eine vorgeschlagene Entscheidung. SGR verwendet Structured Output, um diese Schritte auszudrücken; es ist keine separate Garantie dafür, dass die Antwort korrekt ist.
Wenn der Consumer nur eine Kategorie und eine Source ID benötigt, belassen Sie es bei diesen Feldern. Fügen Sie Analysefelder nur hinzu, wenn Sie erklären können, wie sie geprüft oder verwendet werden.
Zuletzt geprüft: 2026-09-08.
Was die einzelnen Layer leisten
| Layer | Was er bereitstellt | Was er nicht feststellen kann |
|---|---|---|
| JSON-Formatting-Prompt | Anweisungen zur Rückgabe von JSON | Dass die Antwort einem Schema folgt |
| Schema-constrained Output | Eine Antwort, die dem unterstützten Schema folgt, sofern die Generierung erfolgreich abschließt | Dass die Werte korrekt sind |
| SGR-Schema | Benannte Zwischenfelder und eine vorgeschlagene Entscheidung | Dass ein Feld korrekt aus einem anderen abgeleitet wurde |
| Application Checks | Prüfungen von Quellbelegen, Berechnungen und zulässigen Aktionen | Fakten, die die Anwendung nie verifiziert |
Rinat Abdullins Beschreibung von SGR verwendet Schemas als Checkliste für die vom Model zurückgegebenen Ergebnisse. In einem Self-hosted-Setup können Structured Outputs in vLLM JSON Schema über ein Decoding-Backend wie XGrammar erzwingen. Die Definition eines Pydantic-Models allein aktiviert kein Constrained Decoding im Server.
Prüfen Sie das vom ausgewählten Provider unterstützte Schema-Subset und den Completion-Status. Eine Ablehnung, eine abgeschnittene Antwort oder ein fehlgeschlagener Request benötigt jeweils einen eigenen Error Path. Auch der Guide zu Structured Outputs für Gemini hebt die zentrale Einschränkung hervor: Eine korrekte JSON-Struktur garantiert keine korrekten Feldwerte.
Ein Rabattvorschlag zeigt den Unterschied
Nehmen wir an, ein Support-Tool darf höchstens 10 % Rabatt anbieten. Eine minimale strukturierte Antwort könnte discount_percent und customer_message enthalten. Wenn ein interner Reviewer Belege benötigt, könnte eine SGR-Antwort zusätzlich policy_source_id und eligibility_evidence enthalten.
Diese zusätzlichen Felder geben dem Reviewer etwas zur Prüfung. Sie machen einen vorgeschlagenen Rabatt von 15 % jedoch nicht gültig. Selbst ein Schema, das den Prozentsatz auf 10 begrenzt, kann nicht beweisen, dass dieser Kunde die Voraussetzungen erfüllt.
Vor der Verwendung des Angebots muss der Application Code die geltende Richtlinie und den Kundendatensatz laden, die Berechtigung prüfen und den zulässigen Betrag berechnen. Behandeln Sie die Erklärung des Models als eine zu prüfende Behauptung. Wenn ein späterer Model-Schritt freigegebene Fakten benötigt, validieren Sie diese, bevor Sie diesen Aufruf ausführen. Die Reihenfolge der Felder innerhalb eines JSON-Objekts erzeugt keinen Validierungsschritt.
Wann sich die zusätzlichen Felder lohnen
SGR ist nützlich, wenn eine falsche Antwort eine präzisere Diagnose erfordert. Beispielsweise kann ein Dokumentklassifizierer eine Quellpassage und eine Kategorie zurückgeben. Reviewer können dann zwischen einer schlechten Auswahl der Passage und einer falschen Kategorie trotz guter Belege unterscheiden.
Weniger nützlich ist SGR, wenn jedes Ergebnis um eine lange Erklärung erweitert wird, die niemand liest oder bewertet. Zusätzlicher Output verbraucht Tokens, und eine überzeugende Erklärung kann trotzdem falsch sein.
Vergleichen Sie das kleine Schema und das SGR-Schema anhand derselben gelabelten Fälle und desselben Models. Bewerten Sie die finale Entscheidung getrennt von der Quellenunterstützung und der Gültigkeit der Felder. Behalten Sie die Zwischenfelder bei, wenn sie die Entscheidung verbessern oder das Review so nützlich machen, dass der zusätzliche Output gerechtfertigt ist. Unterstellen Sie keinen Accuracy-Gewinn allein aufgrund des Namens des Schemas.
Weiterführende Lektüre
- Schema-guided Reasoning mit vLLM erklärt Schemas, XGrammar und Policy Checks auf Application-Seite.
- Schema-guided Agent Memory verwendet typisierte Records und Quellenhistorie für persistenten State.
- Auswahl von NER-Modellen trennt wörtliche Textspans von Extraction, die Inference erfordert.