我有个朋友在一家中型公司做技术负责人,他们团队 30 多个人都在用 ChatGPT,每个月光 API 费用就好几万。更让他头疼的是数据安全——公司的代码、设计文档、业务数据全经过 OpenAI 的服务器,合规部门天天找他谈话。他问我:"有没有办法自己搭一个 ChatGPT,功能差不多,但数据不出公司?"

我推荐了 LibreChat。用了两个月后,他跟我说这是他今年做的最好的技术决策。目前 LibreChat 在 GitHub 上有 40K Star,是开源 ChatGPT 替代品中功能最完整的一个。

为什么需要自托管 AI 平台

在讲 LibreChat 之前,先回答一个根本问题:为什么不直接用 ChatGPT/Claude/Gemini?

核心功能:多模型、Agents、MCP、Skills

多模型支持

LibreChat 支持 20+ 个模型提供商,包括:

切换模型只需要在界面上点一下,对话历史自动保留。这点比在多个网站之间切换方便太多了。

Agents 系统

LibreChat 的 Agent 系统允许你创建自定义的 AI 助手,每个 Agent 有自己的:

# LibreChat Agent 配置示例
{
  "name": "Code Reviewer",
  "description": "专门做代码审查的 Agent",
  "model": "claude-sonnet-4-20250514",
  "instructions": "你是一个资深代码审查专家...",
  "tools": ["code_interpreter", "file_search"],
  "knowledge_base": ["team-coding-standards.pdf"],
  "temperature": 0.3
}

每个 Agent 可以绑定不同的工具、知识库和模型参数。你可以为团队里的不同角色创建不同的 Agent——产品经理用一个、开发者用一个、设计师用一个。

MCP 集成

这是 LibreChat 2025 年最重要的更新之一。MCP(Model Context Protocol) 是 Anthropic 提出的标准协议,让 AI 模型能够连接外部工具和数据源。LibreChat 对 MCP 的支持非常深入:

# librechat.yaml MCP 配置
mcp:
  servers:
    github:
      command: npx
      args: ["-y", "@modelcontextprotocol/server-github"]
      env:
        GITHUB_TOKEN: "${GITHUB_TOKEN}"
    postgres:
      command: npx
      args: ["-y", "@modelcontextprotocol/server-postgres"]
      env:
        POSTGRES_URL: "${DATABASE_URL}"
    filesystem:
      command: npx
      args: ["-y", "@modelcontextprotocol/server-filesystem", "/data"]

通过 MCP,LibreChat 可以连接 GitHub、数据库、文件系统、Slack、Jira 等上百种外部服务。这是它跟其他开源替代品拉开差距的关键。

Skills 系统

LibreChat 的 Skills 系统允许你为 Agent 注入特定的能力模块,比如代码执行、网页搜索、图片生成等。Skills 可以跨 Agent 共享,也可以为特定 Agent 限定可用的 Skills。

跟 ChatGPT / Open WebUI / LobeChat 的对比

vs ChatGPT

功能上 LibreChat 已经非常接近 ChatGPT 了——多模态、代码执行、文件上传、图片生成都有。差距主要在两个地方:模型能力(GPT-4o 的原生能力确实强)和用户体验的打磨程度(ChatGPT 的 UI/UX 更丝滑)。但 LibreChat 的优势是数据在自己手里,而且可以接入任意模型。

vs Open WebUI(85K Star)

Open WebUI 的 Star 数比 LibreChat 高,它的优势是上手简单——Docker 一行命令就能跑起来,对新手友好。但在功能深度上,LibreChat 领先不少:

但 Open WebUI 的部署门槛更低,如果你只是想要一个简单的多模型聊天界面,Open WebUI 可能更合适。

vs LobeChat(62K Star)

LobeChat 的 UI 设计是三者中最好看的,它的插件市场也做得不错。但在 MCP 支持和 Agent 系统的深度上,LibreChat 更强。LobeChat 更像是一个"好看的聊天前端",LibreChat 更像一个"完整的 AI 平台"。

自定义 Agent 和插件

LibreChat 的插件系统基于Function Calling,你可以用标准的 OpenAI function 格式定义插件:

# 自定义插件定义
{
  "name": "jira_search",
  "description": "搜索 Jira Issue",
  "parameters": {
    "type": "object",
    "properties": {
      "query": { "type": "string", "description": "搜索关键词" },
      "project": { "type": "string", "description": "项目 Key" }
    },
    "required": ["query"]
  },
  "endpoint": "https://your-server/api/jira/search"
}

这意味着任何有 API 的服务都可以变成 LibreChat 的插件。我已经给团队接入了 Jira、Confluence、内部 Wiki 和监控系统,现在大家可以直接在聊天界面里查工单、查文档、看监控。

部署体验

LibreChat 提供了 Docker Compose 一键部署:

git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
# 编辑 .env,配置 API Keys
docker compose up -d

默认使用 MongoDB 存储数据,支持 PostgreSQL 作为替代。整个部署过程大约 10 分钟,比搭一个 WordPress 还简单。

生产环境部署建议:

不爽的地方也有:

适合谁?

不适合的场景:对 UI 打磨要求极高(ChatGPT 的体验目前还是最好的)、完全不想碰部署和运维(用 SaaS 更省心)、只用一个模型不需要多模型切换。

LibreChat 是我见过的功能最完整的开源 AI 平台,40K Star 实至名归。如果你在找一个能替代 ChatGPT 的自托管方案,它值得排在你的候选列表第一位。