vLLM 发布 v0.29.0 版本,其中 Model Runner V2 已成为所有模型的默认推理引擎,显著提升了 LLM 服务性能和效率。
OriginalHome
AI Intel
Last 90 days · 2499 total
github.com
vLLM 发布 v0.29.0:Model Runner V2 成默认推理引擎重点
www.producthunt.com
概念产品 AirPods 5 引入 AI Siri 和实时翻译功能搞钱
Product Hunt 上出现名为“AirPods 5”的概念产品,展示了1.5倍主动降噪、AI Siri和实时翻译等AI增强功能。
Originalwww.reddit.com
斯坦福大学推出“Teach ML!”社区服务项目,提供免费AI概率课程趋势
搞钱
斯坦福大学教授 Chris Piech 发起了“Teach ML!”社区服务项目,提供免费的“AI概率”课程,旨在普及机器学习教育。
Originalcognition.com
Cognition 推出 SWE-2 模型:代码生成能力匹敌顶尖模型趋势
Cognition 发布了新的 SWE-2 模型,宣称其在代码生成能力上可与 Fable 5.1 和 GPT-Astra 等领先模型相媲美,该消息在 Hacker News 上引起关注。
Originalwww.reddit.com
本地 LLM 模型体积持续增长,512GB 闪存模型引热议趋势
Reddit r/LocalLLaMA 社区讨论称,即使是“闪存模型”现在也能达到 512GB,反映出本地 LLM 模型体积的快速膨胀趋势。
Originalwww.reddit.com
DeepSeek V4-1 Flash 发布,支持百万级上下文的多模态 MoE 模型重点
趋势
DeepSeek 发布了 V4-1 Flash 模型,这是一个拥有 552B 主干参数的多模态 MoE 模型,支持高达一百万 token 的上下文长度,在 Reddit r/LocalLLaMA 社区受到关注。
Originalwww.bbc.com
谷歌将购买核电厂一半电力,AI能耗引发关注趋势
一篇在 Hacker News 上讨论的文章指出,谷歌将购买一家核电厂一半的电力,这凸显了大型AI基础设施对能源的巨大需求。
Originalwww.reddit.com
更多研究人员指控 OpenAI 利用对话训练并声称突破趋势
Reddit r/LocalLLaMA 社区讨论有研究人员再次指控 OpenAI 可能利用用户对话数据进行模型训练,并以此声称技术突破。
Originalx.com
OpenAI 宣布 GPT-Live-1 API 现已推出重点
OpenAI 开发者官方宣布 GPT-Live-1 API 正式上线,允许应用集成 ChatGPT 的自然语音交互能力,支持语音 Agent 在交谈时同步听取输入。
Originalx.com
DeepSeek-V4-Pro API 大幅降价并支持百万上下文重点
搞钱
DeepSeek AI 官方宣布其 DeepSeek-V4-Pro API 提供 75% 优惠直至2026年5月,并更新支持通过 Claude Code 设定模型来解锁 1M 上下文。
Original