Ollama：支持多模态模型的本地推理引擎
2025-05-16
Ollama 推出了一个新的引擎，支持多模态模型的本地推理，例如Llama 4 Scout和Gemma 3。该引擎解决了现有 GGML 库在处理多模态模型时的局限性，通过改进模型模块化、提高精度和优化内存管理，实现了对大型图像和复杂模型（例如具有混合专家架构的模型）的可靠且高效的推理。Ollama 的新引擎专注于模型的准确性和可靠性，并为未来支持语音、图像生成和更长上下文等功能奠定了基础。
AI
本地推理