开源库structured-logprobs:提升OpenAI结构化输出可靠性
2025-01-14
structured-logprobs是一个开源Python库,通过提供详细的token log概率信息来增强OpenAI的结构化输出可靠性。它与OpenAI的结构化输出功能配合使用,该功能可确保模型始终生成符合提供的JSON Schema的响应,避免缺失必要键或产生无效值。该库提供两种方法整合log概率:作为单独字段添加到响应中,或内嵌到消息内容中。
开发
log概率