Docker Model Runner: Simplificando la ejecución de modelos de IA localmente

2025-04-14
Docker Model Runner: Simplificando la ejecución de modelos de IA localmente

Docker lanzó Model Runner, una herramienta diseñada para simplificar la ejecución y prueba de modelos de IA localmente. Aborda los desafíos que enfrentan los desarrolladores con herramientas fragmentadas, problemas de compatibilidad de hardware y flujos de trabajo desconectados al trabajar con modelos de IA localmente. Model Runner integra un motor de inferencia basado en llama.cpp, admite la aceleración de GPU en Apple silicon y utiliza OCI Artifacts para el empaquetado estandarizado de modelos, permitiendo un fácil intercambio y control de versiones. Además, Docker se ha asociado con empresas como Google y Hugging Face para proporcionar un rico ecosistema de modelos y herramientas, lo que facilita significativamente el desarrollo de IA local.

Leer más
Desarrollo

Docker Bake GA: Simplifica las compilaciones complejas de Docker

2025-02-08
Docker Bake GA: Simplifica las compilaciones complejas de Docker

Docker anuncia la disponibilidad general de Docker Bake en Docker Desktop 4.38. Esta potente herramienta de orquestación de compilaciones simplifica las compilaciones complejas de Docker mediante un archivo de configuración declarativo. Bake gestiona varias imágenes, la paralelización y el almacenamiento en caché para tiempos de compilación más rápidos, abordando desafíos como la gestión de comandos largos y dependencias. Es compatible con Docker Compose y ofrece funciones avanzadas como compilaciones de matriz y funciones personalizadas. La versión GA incluye mejoras como transferencias de contexto desduplicadas, derechos para una seguridad mejorada, atributos componibles y validación de variables, lo que mejora la eficiencia y la facilidad de uso.

Leer más