推荐开源 AI 项目

精选可私有化/本地部署的热门开源 AI 项目,覆盖本地推理、应用编排、基础模型与多模态,助力你的 AI 私有化与 DevOps 实践。

全部 (12)推理部署应用编排基础模型多模态

精选开源项目

Ollama

精选
推理部署

本地一条命令运行大模型(Llama、Qwen 等),极简的本地 LLM 运行时。

本地推理LLM

vLLM

精选
推理部署

高吞吐 LLM 推理服务引擎(PagedAttention),生产级 serving。

推理服务高性能

Open WebUI

精选
推理部署

开源本地 AI 应用界面,一键对接 Ollama/vLLM,类 ChatGPT 体验。

WebUI本地

Dify

精选
应用编排

开源 LLM 应用开发平台(Agent、可视化工作流、RAG)。

LLMOpsAgent

RAGFlow

精选
应用编排

开源深度文档检索增强(RAG)引擎,适合私有知识库。

RAG知识库

LangChain

精选
应用编排

构建 LLM 应用的基础框架与组件库。

框架LLM

LlamaIndex

精选
应用编排

数据框架,把私有数据/文档接入 LLM 应用。

RAG数据

Qwen

精选
基础模型

阿里通义千问开源模型系列(含推理与多模态)。

开源模型中文

DeepSeek

精选
基础模型

深度求索开源大模型(DeepSeek-V3 / R1 推理系列)。

开源模型推理

Llama

精选
基础模型

Meta 开源 Llama 系列基础模型。

开源模型基础

Whisper

精选
多模态

OpenAI 开源语音识别(ASR),多语言、鲁棒。

语音识别ASR

ComfyUI

精选
多模态

节点式 AI 图像生成工作流(Stable Diffusion 生态)。

图像生成AIGC