Arch Gateway:GenAIアプリのための安全で効率的なプロンプト処理
2025-03-05
Envoy Proxyの貢献者によって構築されたArch Gatewayは、生成AIアプリケーションの開発を簡素化し、最適化します。専用のLLMを活用してプロンプトを処理し、インテントベースのルーティング、堅牢なセキュリティ(ジェイルブレイクの防止)、API統合、包括的な可観測性を提供します。Arch Gatewayは複数のLLMをサポートし、Envoyを使用して高性能とスケーラビリティを実現します。ユーザーフレンドリーなCLIと詳細なドキュメントが提供され、通貨換算エージェントなどのシンプルなAIエージェントの作成方法を示すクイックスタートガイドも用意されています。
開発
可観測性