Back to AI intel
重点
Ollama v0.30.0-rc23 重大架构更新:原生支持 llama.cpp 与 GGUF
AI intel briefing
Core summary
One sentence to understand this update
Ollama 发布 v0.30.0-rc23 版本,将底层架构从 GGML 切换为直接支持 llama.cpp,并兼容 GGUF 文件格式,同时利用 MLX 加速 Apple 设备的模型推理。
Impact & opportunity
What this could mean
大幅提升了 Ollama 在本地 LLM 部署的效率和灵活性,特别是对 Apple 用户,降低了本地运行大型模型的门槛,利好本地 AI 应用开发。
Source
View original