Arch : Une passerelle modulaire pour les applications IA de périphérie
Arch est un serveur proxy de passerelle IA de périphérie modulaire conçu pour simplifier la création d'applications agentiques. Il gère le travail fastidieux de bas niveau, tel que l'application de garde-fous, la clarification des entrées utilisateur ambiguës, le routage des invites vers l'agent correct et l'unification de l'accès à n'importe quel LLM, permettant aux développeurs de créer et d'expédier des applications agentiques plus rapidement. Construit sur Envoy, Arch offre des fonctionnalités telles que le routage, les garde-fous et l'observabilité, et prend en charge plusieurs langages et frameworks. Une démonstration simple d'un agent de conversion de devises montre sa facilité d'utilisation, avec une interaction via des commandes curl. Arch prend en charge les stratégies de routage LLM basées sur le modèle et basées sur les préférences et fournit une journalisation et une observabilité détaillées.