Arch Gateway: Sicheres und effizientes Prompt-Handling für GenAI-Anwendungen

Arch Gateway, entwickelt von den Mitwirkenden von Envoy Proxy, vereinfacht und optimiert die Entwicklung von generativen KI-Anwendungen. Es nutzt speziell entwickelte LLMs zur Verarbeitung von Prompts, bietet intentionsbasiertes Routing, robuste Sicherheit (Verhinderung von Jailbreaks), API-Integration und umfassende Observability. Arch Gateway unterstützt mehrere LLMs und nutzt Envoy für hohe Leistung und Skalierbarkeit. Eine benutzerfreundliche CLI und detaillierte Dokumentation werden bereitgestellt, zusammen mit einer Schnellstartanleitung, die die Erstellung eines einfachen KI-Agenten, wie z. B. eines Währungsumrechnungs-Agenten, zeigt.