Docker Model Runner: Lokale Ausführung von KI-Modellen vereinfacht

2025-04-14
Docker Model Runner: Lokale Ausführung von KI-Modellen vereinfacht

Docker hat Model Runner veröffentlicht, ein Tool zur Vereinfachung der Ausführung und des Testens von KI-Modellen lokal. Es behebt die Herausforderungen, denen Entwickler mit fragmentierten Tools, Hardware-Kompatibilitätsproblemen und unzusammenhängenden Workflows bei der lokalen Arbeit mit KI-Modellen begegnen. Model Runner integriert eine llama.cpp-basierte Inferenz-Engine, unterstützt GPU-Beschleunigung auf Apple Silicon und nutzt OCI Artifacts für standardisierte Modellpakete, was einfaches Teilen und Versionskontrolle ermöglicht. Darüber hinaus arbeitet Docker mit Unternehmen wie Google und Hugging Face zusammen, um ein reichhaltiges Ökosystem an Modellen und Tools bereitzustellen und die lokale KI-Entwicklung deutlich zu vereinfachen.

Mehr lesen
Entwicklung

Docker Bake GA: Vereinfachung komplexer Docker-Builds

2025-02-08
Docker Bake GA: Vereinfachung komplexer Docker-Builds

Docker kündigt die allgemeine Verfügbarkeit von Docker Bake in Docker Desktop 4.38 an. Dieses leistungsstarke Build-Orchestrierungs-Tool vereinfacht komplexe Docker-Builds mithilfe einer deklarativen Konfigurationsdatei. Bake verwaltet mehrere Images, Parallelisierung und Caching für schnellere Build-Zeiten und behebt Probleme wie die Verwaltung langer Befehle und Abhängigkeiten. Es ist mit Docker Compose kompatibel und bietet erweiterte Funktionen wie Matrix-Builds und benutzerdefinierte Funktionen. Die GA-Version enthält Verbesserungen wie deduplizierte Kontextübertragungen, Berechtigungen für verbesserte Sicherheit, zusammensetzbare Attribute und Variablenvalidierung, wodurch Effizienz und Benutzerfreundlichkeit gesteigert werden.

Mehr lesen
Entwicklung