Back to AI intel
重点
Ollama v0.30.0-rc23 发布:架构升级,直接支持 llama.cpp 和 GGUF 格式
AI intel briefing
Core summary
One sentence to understand this update
Ollama 的重要更新,将底层架构从 GGML 切换为直接支持 llama.cpp,并兼容 GGUF 文件格式,同时利用 MLX 加速 Apple 设备的模型推理。
Impact & opportunity
What this could mean
大幅提升本地 LLM 运行效率和兼容性,特别是对 Apple 用户有益,利好本地 AI 应用开发和部署,基础设施提供商可关注。
Source
View original