我有个朋友在一家中型公司做技术负责人,他们团队 30 多个人都在用 ChatGPT,每个月光 API 费用就好几万。更让他头疼的是数据安全——公司的代码、设计文档、业务数据全经过 OpenAI 的服务器,合规部门天天找他谈话。他问我:"有没有办法自己搭一个 ChatGPT,功能差不多,但数据不出公司?"
我推荐了 LibreChat。用了两个月后,他跟我说这是他今年做的最好的技术决策。目前 LibreChat 在 GitHub 上有 40K Star,是开源 ChatGPT 替代品中功能最完整的一个。
为什么需要自托管 AI 平台
在讲 LibreChat 之前,先回答一个根本问题:为什么不直接用 ChatGPT/Claude/Gemini?
- 数据隐私:很多行业(金融、医疗、政府)的数据不能发给第三方。自托管意味着数据完全在自己的服务器上。
- 成本控制:按人头收费的 SaaS 和按 token 收费的 API,成本结构完全不同。自托管 + API 调用通常更便宜。
- 模型自由:ChatGPT 只能用 OpenAI 的模型。自托管平台可以同时接入 OpenAI、Anthropic、Google、Mistral、本地模型……
- 定制能力:自托管可以深度定制界面、功能、工作流,SaaS 产品做不到。
- 合规要求:某些地区(如欧盟 GDPR)对数据处理有严格要求,自托管更容易满足。
核心功能:多模型、Agents、MCP、Skills
多模型支持
LibreChat 支持 20+ 个模型提供商,包括:
- OpenAI(GPT-4o、o3、o4-mini)
- Anthropic(Claude Opus、Sonnet、Haiku)
- Google(Gemini 2.5 Pro/Flash)
- Mistral(Large、Small、Codestral)
- Azure OpenAI
- AWS Bedrock
- 本地模型(通过 Ollama、vLLM、LM Studio 等)
- 任何 OpenAI 兼容的 API
切换模型只需要在界面上点一下,对话历史自动保留。这点比在多个网站之间切换方便太多了。
Agents 系统
LibreChat 的 Agent 系统允许你创建自定义的 AI 助手,每个 Agent 有自己的:
# LibreChat Agent 配置示例
{
"name": "Code Reviewer",
"description": "专门做代码审查的 Agent",
"model": "claude-sonnet-4-20250514",
"instructions": "你是一个资深代码审查专家...",
"tools": ["code_interpreter", "file_search"],
"knowledge_base": ["team-coding-standards.pdf"],
"temperature": 0.3
}
每个 Agent 可以绑定不同的工具、知识库和模型参数。你可以为团队里的不同角色创建不同的 Agent——产品经理用一个、开发者用一个、设计师用一个。
MCP 集成
这是 LibreChat 2025 年最重要的更新之一。MCP(Model Context Protocol) 是 Anthropic 提出的标准协议,让 AI 模型能够连接外部工具和数据源。LibreChat 对 MCP 的支持非常深入:
# librechat.yaml MCP 配置
mcp:
servers:
github:
command: npx
args: ["-y", "@modelcontextprotocol/server-github"]
env:
GITHUB_TOKEN: "${GITHUB_TOKEN}"
postgres:
command: npx
args: ["-y", "@modelcontextprotocol/server-postgres"]
env:
POSTGRES_URL: "${DATABASE_URL}"
filesystem:
command: npx
args: ["-y", "@modelcontextprotocol/server-filesystem", "/data"]
通过 MCP,LibreChat 可以连接 GitHub、数据库、文件系统、Slack、Jira 等上百种外部服务。这是它跟其他开源替代品拉开差距的关键。
Skills 系统
LibreChat 的 Skills 系统允许你为 Agent 注入特定的能力模块,比如代码执行、网页搜索、图片生成等。Skills 可以跨 Agent 共享,也可以为特定 Agent 限定可用的 Skills。
跟 ChatGPT / Open WebUI / LobeChat 的对比
vs ChatGPT
功能上 LibreChat 已经非常接近 ChatGPT 了——多模态、代码执行、文件上传、图片生成都有。差距主要在两个地方:模型能力(GPT-4o 的原生能力确实强)和用户体验的打磨程度(ChatGPT 的 UI/UX 更丝滑)。但 LibreChat 的优势是数据在自己手里,而且可以接入任意模型。
vs Open WebUI(85K Star)
Open WebUI 的 Star 数比 LibreChat 高,它的优势是上手简单——Docker 一行命令就能跑起来,对新手友好。但在功能深度上,LibreChat 领先不少:
- Agent 系统:Open WebUI 的 Agent 功能相对简单,LibreChat 更完整
- MCP 支持:LibreChat 原生支持 MCP,Open WebUI 还在追赶
- 插件生态:LibreChat 的插件更丰富
- UI 定制:LibreChat 的界面定制能力更强
但 Open WebUI 的部署门槛更低,如果你只是想要一个简单的多模型聊天界面,Open WebUI 可能更合适。
vs LobeChat(62K Star)
LobeChat 的 UI 设计是三者中最好看的,它的插件市场也做得不错。但在 MCP 支持和 Agent 系统的深度上,LibreChat 更强。LobeChat 更像是一个"好看的聊天前端",LibreChat 更像一个"完整的 AI 平台"。
自定义 Agent 和插件
LibreChat 的插件系统基于Function Calling,你可以用标准的 OpenAI function 格式定义插件:
# 自定义插件定义
{
"name": "jira_search",
"description": "搜索 Jira Issue",
"parameters": {
"type": "object",
"properties": {
"query": { "type": "string", "description": "搜索关键词" },
"project": { "type": "string", "description": "项目 Key" }
},
"required": ["query"]
},
"endpoint": "https://your-server/api/jira/search"
}
这意味着任何有 API 的服务都可以变成 LibreChat 的插件。我已经给团队接入了 Jira、Confluence、内部 Wiki 和监控系统,现在大家可以直接在聊天界面里查工单、查文档、看监控。
部署体验
LibreChat 提供了 Docker Compose 一键部署:
git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
# 编辑 .env,配置 API Keys
docker compose up -d
默认使用 MongoDB 存储数据,支持 PostgreSQL 作为替代。整个部署过程大约 10 分钟,比搭一个 WordPress 还简单。
生产环境部署建议:
- 使用 Nginx/Caddy 做反向代理,配好 HTTPS
- 用 PostgreSQL 替代 MongoDB(更好的事务支持)
- 配置 Redis 做缓存和 session 存储
- 限制注册(设好邀请码或白名单)
不爽的地方也有:
- 配置文件比较复杂:librechat.yaml 的配置项很多,新手容易懵
- 升级有时会 break:大版本升级需要注意 migration,建议备份数据库
- 文档有些滞后:新功能的文档有时候跟不上代码更新
- 资源消耗不低:完整的部署(含 MongoDB + Redis + 应用)至少需要 2GB 内存
适合谁?
- 中小企业:想给团队提供 AI 工具但不想用 SaaS,数据安全有要求
- 技术团队:需要同时使用多个模型,想在一个界面里切换
- 开发者:想深度定制 AI 平台,接入自己的工具和数据源
- 教育机构:给学生提供 AI 环境,需要控制用量和内容
- 个人用户:想要一个比 ChatGPT 更灵活的聊天界面,愿意花时间折腾
不适合的场景:对 UI 打磨要求极高(ChatGPT 的体验目前还是最好的)、完全不想碰部署和运维(用 SaaS 更省心)、只用一个模型不需要多模型切换。
LibreChat 是我见过的功能最完整的开源 AI 平台,40K Star 实至名归。如果你在找一个能替代 ChatGPT 的自托管方案,它值得排在你的候选列表第一位。