别让LLM做决策:它们不擅长这个
2025-04-01
作者以开发在线游戏NPC为例,强调大型语言模型(LLM)不应负责业务逻辑和决策,而只应作为用户界面,将用户请求转换为API调用,并将结果翻译回自然语言。LLM在性能、调试和调整等方面存在诸多劣势,例如在棋类游戏中,专用引擎远胜于LLM。作者建议将LLM用于文本转换、分类和理解用户意图等方面,并将核心逻辑交给专用系统处理,以提高效率和可靠性。虽然LLM能力不断提升,但这项架构原则仍然适用。
(sgnt.ai)
开发