Arch:模块化边缘和AI网关,加速Agent应用开发

2025-07-14
Arch:模块化边缘和AI网关,加速Agent应用开发

Arch是一个模块化的边缘和AI网关代理服务器,旨在简化Agent应用的构建。它处理诸如应用防护、模糊用户输入的澄清、提示路由以及统一访问任何LLM等底层工作,从而帮助开发者更快地构建和发布Agent应用。Arch支持多种语言和框架,并提供路由、防护、可观测性等核心功能,基于Envoy构建,具有高性能和可扩展性。 一个简易的货币兑换Agent示例展示了Arch的易用性,开发者可以使用curl命令与之交互。Arch还支持基于模型和基于偏好的两种LLM路由策略,并提供详细的日志和可观测性信息。