Back to list
High-Potential
Python
🧩 开源的 AIaaS 平台与模型聚合器
504 stars101 forksPython
blockyembeddingsfastapilangchainllamallamaindexllmollamaopenaiopenaiapipythonrag
现在市面上的模型和推理后端太多了,Ollama、vLLM、OpenAI API 各有各的接口。这个项目想做的事情很直接:把这些底层的零散能力统一封装成一个 AIaaS(AI 即服务)平台。
它不仅提供了一个统一的 REST API,还内置了 RAG、图像和音频生成、甚至基于区块的可视化编排功能。对于需要在内部团队快速搭建一套完整 AI 基础设施的开发者来说,它提供了一个相当完整的开源方案,并且自带了 Prompt 版本管理和调用分析界面。