Arch: Una puerta de enlace modular para aplicaciones de IA de borde

Arch es un servidor proxy de puerta de enlace de IA de borde modular diseñado para simplificar la creación de aplicaciones agentivas. Se encarga del trabajo tedioso de bajo nivel, como aplicar barreras de protección, aclarar entradas ambiguas del usuario, enrutar prompts al agente correcto y unificar el acceso a cualquier LLM, permitiendo a los desarrolladores crear y enviar aplicaciones agentivas más rápidamente. Construido sobre Envoy, Arch ofrece funciones como enrutamiento, barreras de protección y observabilidad, y admite varios lenguajes y frameworks. Una demostración simple de un agente de conversión de moneda muestra su facilidad de uso, con interacción mediante comandos curl. Arch admite estrategias de enrutamiento LLM basadas en modelo y basadas en preferencias y proporciona registro y observabilidad detallados.