本文作者分享了公司使用超过5亿个GPT代币后得出的一些“令人惊讶”的经验教训。作者认为，在提示工程方面，少即是多，过于详细的指示反而会让GPT困惑。作者还发现，OpenAI的chat API足以满足大部分需求，langchain等工具并非必需。作者还指出，GPT不擅长生成零假设，并且“上下文窗口”是一个误称，因为GPT-4的输出窗口仍然很小。最后，作者认为向量数据库和RAG/嵌入技术对于大多数人来说用处不大，因为它们主要适用于搜索场景。