BLAST: Un motor de servicio de alto rendimiento para IA de navegación web

2025-05-02
BLAST: Un motor de servicio de alto rendimiento para IA de navegación web

BLAST es un motor de servicio de alto rendimiento para IA de navegación web, que ofrece una API compatible con OpenAI con concurrencia y transmisión integradas. Almacena en caché y paraliza automáticamente las tareas para reducir costes y permitir latencias interactivas. Un simple `pip install blastai && blastai serve` te permite empezar a usarlo localmente, sin preocuparte por el presupuesto o el consumo excesivo de memoria. Su API compatible con OpenAI facilita la integración, transmitiendo la salida del LLM mejorada por el navegador en tiempo real.

Desarrollo