Back to AI intel
重点

Ollama v0.30.0-rc23 重大架构更新:原生支持 llama.cpp 与 GGUF

AI intel briefing

Core summary

One sentence to understand this update

Ollama 发布 v0.30.0-rc23 版本,将底层架构从 GGML 切换为直接支持 llama.cpp,并兼容 GGUF 文件格式,同时利用 MLX 加速 Apple 设备的模型推理。

Impact & opportunity

What this could mean

大幅提升了 Ollama 在本地 LLM 部署的效率和灵活性,特别是对 Apple 用户,降低了本地运行大型模型的门槛,利好本地 AI 应用开发。