Arch：モジュール型のエッジとAIゲートウェイ、エージェントアプリケーション開発を高速化

Archは、エージェントアプリケーションの構築を簡素化するために設計された、モジュール型のエッジとAIゲートウェイのプロキシサーバーです。ガードレールの実装、曖昧なユーザー入力の明確化、適切なエージェントへのプロンプトのルーティング、任意のLLMへのアクセスの一元化など、面倒な低レベルの作業を処理し、開発者がエージェントアプリケーションをより迅速に構築およびリリースできるようにします。Envoy上に構築されたArchは、ルーティング、ガードレール、オブザーバビリティなどの機能を提供し、さまざまな言語とフレームワークをサポートしています。通貨変換エージェントの簡単なデモがその使いやすさを示しており、curlコマンドを使用してやり取りできます。Archは、モデルベースとプリファレンスベースの2つの主要なLLMルーティング戦略をサポートし、詳細なログとオブザーバビリティを提供します。