国内玩本地大模型的兄弟,十个有九个装过 Open WebUI(github.com/open-webui/open-webui),但九个都把它用成了「Ollama 的表情包皮肤」:左边选个模型,中间打个字,完事。这可能是2026年最被低估的一件自部署神器——它的真实身份不是聊天窗口,而是一个带插件系统、知识库、权限体系和 API 网关的完整 LLM 中间层。海外 Reddit 的 r/LocalLLaMA 和 r/OpenWebUI 上,老外早就把它拆成了团队知识库、模型路由器、自动化工具台在用。今天把八个大多数人没拧过的暗格一次说清,每一个都有具体入口和操作路径,看完你那套吃灰的自部署全家桶能多榨出三倍价值。
先上一张全景图,你才知道这八个暗格分别长在哪个器官上:
flowchart TD
subgraph SOURCES["模型与能力源"]
A["Ollama 本地模型"]
B["OpenAI 兼容API"]
C["SearXNG 搜索"]
D["ComfyUI 画图"]
E["mcpo 工具桥"]
end
subgraph CORE["Open WebUI 中枢"]
F["模型工厂"]
G["知识库"]
H["函数与工具"]
I["语音与代码"]
end
subgraph CLIENTS["消费端"]
J["浏览器聊天"]
K["脚本与App"]
end
A --> F
B --> F
C --> H
D --> I
E --> H
F --> J
G --> J
H --> J
I --> J
F -->|"OpenAI兼容接口"| K
多数人以为 Workspace → Models 里建的东西只是改个系统提示词。实际上这里造出的是一个可分发的「新模型」:底座模型 + 系统提示词 + 挂载知识库 + {{prompt}} 变量模板,四件套打包。
操作:登录后进 Workspace → Models → 点 + 号,选一个 base model(比如 qwen 系列),写死一段系统提示词,再挂上你建好的 Knowledge 集合,保存。变量语法 {{prompt}} 可以做填空式模板,比如让同事只填需求、不用看到那八百字提示词。
效果:你老婆用同一个界面,选到的是「周报生成器」;你同事选到的是「只答规范问题的合同审查员」。分发粒度从「模型」细化到「岗位」,而且这些自建模型可以设为团队可见、可以置顶(pinned)在选模型列表最上面。
适用:小团队内部工具化,一个界面养五个「虚拟员工」。
聊天输入框第一个字符敲 #,会弹出知识库选择器——这是 Open WebUI 的 RAG 暗门,但大多数人没进 Workspace → Knowledge 把料喂进去,所以这扇门永远是空的。
操作:先进 Workspace → Knowledge 建一个集合,把 PDF、Markdown、Word 拖进去;再进管理员面板 → Settings → Documents,调 RAG 参数(分块大小、top-k),开启混合检索(hybrid search)。聊天时敲 # 选集合,或直接 # 加单个文档。
效果:本地模型 + 本地文档 = 数据不出内网的问答系统。回答还带引用溯源,能点回原文出处。中文资料多的团队,这一招就能替掉一台「文档问答 SaaS」的年费。
注意:检索质量的大头在分块参数和 embedding 模型上,默认值偏保守,喂几百页手册前先调参。
管理员面板 → Functions,是整个项目最像「平台」的地方:直接在网页里写 Python,存三类插件——Pipe(伪装成一个新「模型」)、Filter(拦截请求/响应做加工)、Tool(给模型配手脚)。
举两个能直接抄的例子:
这是和 Cherry Studio、Chatbox 这类国产客户端拉开差距的核心:它们是「客户端」,Open WebUI 是「平台」。
选模型的下拉框旁边有个不起眼的 + 号,点它,可以往当前对话里加第二个模型。从此同一个问题,两个模型上下并排各答一遍。
操作:聊天界面 → 点模型选择器旁的 + → 选第二个模型 → 发问。
效果:选型期的杀器。写码任务让两个模型同时交卷,肉眼评审;也适合「本地模型 + 云端旗舰」互为参照。另外长按/点击任意一条历史回答可以「用另一个模型重新生成」,同一轮对话原地换人重答,不用复制粘贴搬家。
适用:正在纠结 qwen 还是 llama、要不要为某个任务单开 API 的人,一晚上就能测出自己的真实偏好。
本地模型最大的短板是不能联网,Open WebUI 把这扇门也留了:管理员面板 → Settings → Web Search,接 SearXNG、Brave、DuckDuckGo、Tavily 等一排搜索引擎,聊天输入框旁会多一个🌐按钮。
操作:最省钱的组合是自建一个 SearXNG(也是 Docker 一行的事),零 API 费;省事就直接填 Tavily 的免费额度 Key。聊天时点 🌐 开启当次联网,管理员还能设成默认强制联网。
效果:本地模型 + 联网检索 = 零成本的迷你 Perplexity。查当天新闻、比对文档版本号这种事,不用再切出去开浏览器了。
MCP(Model Context Protocol)火了一整年,很多人以为 Open WebUI 没跟上——其实官方单独出了个桥接器 mcpo(github.com/open-webui/mcpo),把任意 MCP server 翻译成 OpenAPI 接口挂进来。
操作:机器上装了 uv 的话一行起桥:uvx mcpo --port 8000 -- 你的MCP服务命令,比如接官方的 filesystem server 让模型读本地目录;然后回 Open WebUI 管理员面板 → Settings → Tools,把这个地址登记为外部工具。
效果:文件读写、GitHub 操作这些 MCP 生态的现成轮子,直接变成聊天里的可调用工具。模型回答里就能真的动手,不只是动嘴。
适用:已经玩 MCP 的进阶玩家;纯新手建议先把前五个暗格拧完。
左下角设置里藏着两个多媒体暗格。
语音:Settings → Audio,STT 可以走本地 Whisper(离线转写),TTS 可换引擎;对话界面有通话模式,像打语音电话一样跟本地模型唠。
画图:管理员面板 → Settings → Images,接 ComfyUI 或 Automatic1111;把「回复后自动生成配图」的开关拧开,每次回答完自动按内容出图。
效果:完全本地链路的「说话 + 画图 + 出声」玩具机,也是给孩子做讲故事机器人的最快路径——不花一分钱 API 费,断网也能跑。
最容易被忽略的一层:账户设置 → Account 里能直接签发 API Key,Open WebUI 对外暴露 OpenAI 兼容风格的接口(具体路径见 docs.openwebui.com)。这意味着你在界面上配好的自建模型、知识库、工具,可以被任何外部程序调用。
操作:签发 Key → 外部脚本或应用把 base URL 指向你的 Open WebUI 地址 → 用 OpenAI SDK 的标准姿势请求你自建的「周报生成器」模型。
叠加管理后台:管理员面板有用户组(Groups)和模型级 ACL,可以做到「实习组只能用本地小模型,正式组能用旗舰」。50 人以内的小团队,这就是一套免费的 LLM 权限网关。
⚠️ 一个必须知道的坑:2025 年初项目把协议从纯 BSD-3 改成了自定义的 Open WebUI License——保留「Open WebUI」品牌标识可以免费用,官方口径是 50 用户以上的商用部署需要谈企业授权。个人和小团队无感,但要做对内大规模平台或二开贴牌的,先读协议原文再上生产。
| 你以为的 | 实际上 |
|---|---|
| 它是 Ollama 的聊天皮肤 | 它是带插件系统的 LLM 中间层平台 |
| 换模型只能下拉框选 | 能造「分身模型」,按岗位分发 |
| 知识库是付费功能 | 免费自带,敲 # 就能唤出 |
| 本地模型不能联网 | SearXNG 一接就是免费 Perplexity |
| MCP 是别家的事 | 官方 mcpo 桥接器现成可挂 |
| 用它就得手点界面 | 签发 Key 后整体可当 API 网关 |
| 开源随便二开贴牌 | 协议有品牌条款,50 用户以上要授权 |
还没装的三分钟上车(官方 README 标准命令,含 Ollama 一体版):
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main
已装的建议按这个顺序补课,一天一个,一周毕业:
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
