Back to AI intel
重点

Ollama v0.30.0-rc23 发布:架构升级,直接支持 llama.cpp 和 GGUF 格式

AI intel briefing

Core summary

One sentence to understand this update

Ollama 的重要更新,将底层架构从 GGML 切换为直接支持 llama.cpp,并兼容 GGUF 文件格式,同时利用 MLX 加速 Apple 设备的模型推理。

Impact & opportunity

What this could mean

大幅提升本地 LLM 运行效率和兼容性,特别是对 Apple 用户有益,利好本地 AI 应用开发和部署,基础设施提供商可关注。