Back to AI intel
重点

llama.cpp 发布 b9630 版本

AI intel briefing

Core summary

One sentence to understand this update

llama.cpp 新版本 b9630 主要增加了对 Cohere2MoE 模型词汇表的支持(针对 TINY_AYA 模型)。这是 llama.cpp 的一次重要更新。

Impact & opportunity

What this could mean

开发者可以利用此更新在本地运行更多类型的 LLM,特别是增强了 macOS/iOS 上的性能优化,推动了本地模型推理的多样性和效率。