High-Potential
Python
220 stars📚 带有溯源标记的 Agent 记忆运行时
如果说传统的 RAG 工具更像是在每次提问时去数据库里临时翻找资料，Statewave 则试图改变这种模式。它是一个开源的 AI Agent…
Back to home
GitHub Picks
High-Potential
Python
1,774 stars⚡ 优化 Agent 循环成本的级联运行时
把 AI Agent 投入实际生产时，开发者往往会遇到一个现实问题：大模型 API 的调用成本和延迟很容易失控。Cascadeflow 就是为了解决这个痛点而生的，它定位为一个专为 AI Agent…
High-Potential
Python
5,529 stars🚀 大模型强化学习的开源基础设施
强化学习（RL）在提升大模型推理能力方面扮演着关键角色，但其高昂的门槛往往让普通开发者望而却步。rLLM 的口号是“让大模型的强化学习民主化”，试图把这套复杂的训练流程变得更易于上手。…
High-Potential
Go
588 stars🛡️ 专为 AI Agent 设计的开源防火墙
当 AI Agent 开始拥有访问外部网络和本地文件的权限时，安全风险也随之呈指数级上升。Pipelock 瞄准的就是这个日益凸显的痛点，它是一个用 Go 语言编写的开源 AI Agent 防火墙，专门针对…
High-Potential
Python
269 stars🧩 私有化 RAG 与多模型应用基础设施
对于那些因为数据隐私问题而无法使用云端 API 的团队来说，搭建一套私有化的 AI 基础设施是刚需。Orbit 就是为了满足这种需求而设计的，它提供了一个支持自托管的平台，专门用于构建私有…
High-Potential
C
4,942 stars🖥️ 面向移动端与可穿戴设备的低延迟 AI 引擎
把庞大的语言模型塞进手机甚至智能手表里，一直是端侧 AI 领域的一大挑战。Cactus 是一个用 C 语言编写的底层框架，专门针对移动设备和可穿戴设备优化，主打低延迟的 AI 推理能力。 它基于 llama.cpp…