structured-logprobs: Steigerung der Zuverlässigkeit strukturierter Ausgaben von OpenAI
2025-01-14
structured-logprobs ist eine Open-Source-Python-Bibliothek, die die Zuverlässigkeit strukturierter Ausgaben von OpenAI verbessert, indem sie detaillierte Informationen zur Token-Log-Wahrscheinlichkeit liefert. Sie arbeitet mit der Funktion für strukturierte Ausgaben von OpenAI zusammen und stellt sicher, dass konsistente Antworten generiert werden, die einem bereitgestellten JSON-Schema entsprechen, wodurch fehlende Schlüssel oder ungültige Werte vermieden werden. Die Bibliothek bietet zwei Methoden zur Integration von Log-Wahrscheinlichkeiten: Hinzufügen als separates Feld oder Einbetten direkt in den Nachrichteninhalt.
Mehr lesen