Adaline Gateway:一款功能强大的本地LLM超级SDK

2024-10-15

Adaline Gateway 是一款用于调用200多种大型语言模型(LLM)的本地生产级超级SDK。它提供简单、统一、强大的接口,具备批处理、重试机制、缓存、回调和OpenTelemetry支持等功能,并支持自定义插件扩展。Adaline Gateway 完全本地化,不依赖代理,支持即插即用的自定义模型,适用于各种基础设施和企业级应用。

22
未分类