Arch Gateway: Gerenciamento de Prompts Seguro e Eficiente para Aplicativos GenAI
2025-03-05
O Arch Gateway, construído pelos colaboradores do Envoy Proxy, simplifica e otimiza o desenvolvimento de aplicativos de IA generativa. Ele utiliza LLMs projetados para lidar com prompts, fornecendo roteamento baseado em intenção, segurança robusta (prevenindo jailbreaks), integração de API e observabilidade abrangente. O Arch Gateway suporta vários LLMs e utiliza o Envoy para alto desempenho e escalabilidade. Um CLI amigável ao usuário e documentação detalhada são fornecidos, com um guia de início rápido demonstrando a criação de um agente de IA simples, como um agente de conversão de moedas.
Desenvolvimento