Docker 推出 Model Runner:简化本地 AI 模型运行
2025-04-14

Docker 发布了 Model Runner,一个简化本地 AI 模型运行和测试的工具。它解决了开发者在本地运行 AI 模型时遇到的工具碎片化、硬件兼容性问题和工作流程割裂等难题。Model Runner 集成了 llama.cpp 推理引擎,支持 Apple Silicon 的 GPU 加速,并使用 OCI Artifacts 标准化模型打包,方便模型共享和版本控制。此外,Docker 还与 Google、Hugging Face 等公司合作,提供丰富的模型和工具,构建了强大的生态系统,让开发者能够更轻松地进行本地 AI 开发。
阅读更多
开发