JigsawStack混合代理(MoA):通过提示引擎超越任何单个LLM并降低成本
2024-12-06
JigsawStack 推出一种名为“提示引擎”的新功能,旨在解决在不同大型语言模型(LLM)之间切换、控制成本和保持输出质量一致性等难题。该引擎允许用户创建包含提示、动态变量和预期输出结构的“提示引擎”。创建后,引擎会自动优化提示并从50多个LLM中选择5个最相关的模型并行运行。引擎会根据提示和输出相似性对结果进行排序,并将最佳输出合并,同时维护用户预设的输出结构。随着使用次数增加,引擎会学习哪些LLM表现更好,从而提高输出质量和速度,并降低成本。
6
未分类
JigsawStack