Arch Gateway:为你的生成式AI应用保驾护航
2025-03-05
Arch Gateway是一个由Envoy Proxy贡献者构建的强大工具,旨在简化和优化生成式AI应用的开发。它利用专用LLM处理提示,提供意图驱动的路由、安全防护(防止越狱攻击)、API调用以及全面的可观测性。Arch Gateway支持多种LLM,并通过Envoy实现高性能和可扩展性。 该项目提供易于使用的CLI和详尽的文档,并通过一个快速入门指南演示如何构建简单的AI代理,例如一个货币兑换代理。
开发