Back to AI intel
重点

vLLM v0.30.0 发布:新增DeepSeek-V4.1-Flash等模型支持

AI intel briefing

Core summary

One sentence to understand this update

vLLM 官方发布 v0.30.0 版本,主要亮点包括新增 DeepSeek-V4.1-Flash 模型支持,并优化了 KV 存储至 MXFP8 等关键功能。这是官方发布。

Impact & opportunity

What this could mean

提升了高性能LLM推理服务的效率和模型兼容性,利好需要低延迟、高吞吐量的AI服务提供商和SaaS开发者。