Back to AI intel
重点
llama.cpp 发布 b9630 版本
AI intel briefing
Core summary
One sentence to understand this update
llama.cpp 新版本 b9630 主要增加了对 Cohere2MoE 模型词汇表的支持(针对 TINY_AYA 模型)。这是 llama.cpp 的一次重要更新。
Impact & opportunity
What this could mean
开发者可以利用此更新在本地运行更多类型的 LLM,特别是增强了 macOS/iOS 上的性能优化,推动了本地模型推理的多样性和效率。
Source
View original