精选可私有化/本地部署的热门开源 AI 项目,覆盖本地推理、应用编排、基础模型与多模态,助力你的 AI 私有化与 DevOps 实践。
本地一条命令运行大模型(Llama、Qwen 等),极简的本地 LLM 运行时。
高吞吐 LLM 推理服务引擎(PagedAttention),生产级 serving。
开源本地 AI 应用界面,一键对接 Ollama/vLLM,类 ChatGPT 体验。
开源 LLM 应用开发平台(Agent、可视化工作流、RAG)。
开源深度文档检索增强(RAG)引擎,适合私有知识库。
构建 LLM 应用的基础框架与组件库。
数据框架,把私有数据/文档接入 LLM 应用。
阿里通义千问开源模型系列(含推理与多模态)。
深度求索开源大模型(DeepSeek-V3 / R1 推理系列)。
Meta 开源 Llama 系列基础模型。
OpenAI 开源语音识别(ASR),多语言、鲁棒。
节点式 AI 图像生成工作流(Stable Diffusion 生态)。