大型语言模型代理的命令行工具和API增强

作者在使用大型语言模型（LLM）代理自动化逆向工程任务时，发现现有命令行工具和API的设计不足以满足LLM的需求，特别是当受限于本地模型的小上下文窗口时。例如，API需要在提供足够信息减少工具调用和避免填充上下文窗口之间取得平衡。作者通过改进文档字符串、添加辅助函数和预提交钩子等方法来解决这个问题，并提出了一些改进建议，例如创建缓存输出、结构化输出并告知剩余行数的包装器，以及提供当前目录信息的shell钩子。最终，作者认为需要为LLM增强现有的CLI工具，甚至可能需要一整套LLM增强的CLI工具或自定义LLM shell，以改善LLM代理的用户体验。