搜索技巧 核手提箱 海洋云增白 Bliss AI 搜索答案 深海沉船 自由职业 policy 小团队 颈挂空调 Chumby 个人电脑 极端主义 世界 PostgreSQL AI工具 证券 DirectX 防溢 DrawingPics 儿童读物 化学 连续滚动 代码审查 KDE 游戏测试 多动症 超级计算机 植物学 三菱电机 更多

RouteLLM:一种用于服务和评估LLM路由器的框架 (github.com)

RouteLLM是一个用于服务和评估LLM路由器的框架,旨在通过将更简单的查询路由到更便宜的模型来节省LLM成本,而不会影响质量。该框架提供训练好的路由器,并可以轻松扩展到新的路由器,同时还可以在多个基准测试中比较路由器的性能。

评论已经关闭!