Arch: Um gateway modular para aplicativos de IA de borda

Arch é um servidor proxy de gateway de IA de borda modular projetado para simplificar a construção de aplicativos agentivos. Ele cuida do trabalho tedioso de baixo nível, como aplicar barreiras de proteção, esclarecer entradas ambíguas do usuário, roteamento de prompts para o agente correto e unificar o acesso a qualquer LLM, permitindo que os desenvolvedores criem e enviem aplicativos agentivos mais rapidamente. Construído no Envoy, o Arch oferece recursos como roteamento, barreiras de proteção e observabilidade e suporta várias linguagens e estruturas. Uma demonstração simples de um agente de conversão de moeda mostra sua facilidade de uso, com interação por meio de comandos curl. O Arch suporta estratégias de roteamento LLM baseadas em modelo e baseadas em preferência e fornece registro e observabilidade detalhados.