Proxy LLM Remoto como Modelo Local en Kotlin: Una Bendición para el Asistente de IA de JetBrains
2025-05-03
Debido a la cuota gratuita limitada del Asistente de IA de JetBrains, el autor desarrolló una aplicación Kotlin/Ktor que actúa como proxy para varias APIs de LLM, como OpenAI, Claude y Gemini, como APIs de LM Studio y Ollama, permitiendo su uso en IDEs de JetBrains. Aprovechando características sin reflexión, se construye como una imagen nativa de GraalVM para compatibilidad multiplataforma e inicio rápido. Admite chat en streaming, configuración sencilla y recarga en caliente.
Desarrollo
Asistente de IA de JetBrains