High-Potential
Python
5,529 stars🚀 大模型强化学习的开源基础设施
强化学习（RL）在提升大模型推理能力方面扮演着关键角色，但其高昂的门槛往往让普通开发者望而却步。rLLM 的口号是“让大模型的强化学习民主化”，试图把这套复杂的训练流程变得更易于上手。…
Back to home
GitHub Picks
High-Potential
Go
588 stars🛡️ 专为 AI Agent 设计的开源防火墙
当 AI Agent 开始拥有访问外部网络和本地文件的权限时，安全风险也随之呈指数级上升。Pipelock 瞄准的就是这个日益凸显的痛点，它是一个用 Go 语言编写的开源 AI Agent 防火墙，专门针对…
High-Potential
Python
269 stars🧩 私有化 RAG 与多模型应用基础设施
对于那些因为数据隐私问题而无法使用云端 API 的团队来说，搭建一套私有化的 AI 基础设施是刚需。Orbit 就是为了满足这种需求而设计的，它提供了一个支持自托管的平台，专门用于构建私有…
High-Potential
C
4,942 stars🖥️ 面向移动端与可穿戴设备的低延迟 AI 引擎
把庞大的语言模型塞进手机甚至智能手表里，一直是端侧 AI 领域的一大挑战。Cactus 是一个用 C 语言编写的底层框架，专门针对移动设备和可穿戴设备优化，主打低延迟的 AI 推理能力。 它基于 llama.cpp…
High-Potential
Rust
145 stars🛡️ Agent 时代的通信交换机与审计网关
当多个 AI Agent 开始在 Discord、Matrix 等不同平台上与人类或其他系统交互时，如何管理它们的权限和通信记录成了一个棘手的问题。Wirken 将自己定位为“Agent…
High-Potential
Python
618 stars🖥️ 本地 AI 全家桶
这个项目的野心不小，简单说，它想把所有 AI 能力打包塞进你的本地机器里。DreamServer 提供了一个无需云端、无需订阅的本地 AI 环境，涵盖了 LLM 推理、聊天界面、语音交互、Agent 工作流、RAG…