开源封神！LobeHub+Ollama，打造本地私有Agent工作台

前言

你是否也有这样的困扰：使用在线AI工具时，不敢上传敏感文档，担心对话内容被收集；想要自定义专属AI助手，却受限于平台规则；想离线使用大模型，又找不到一款功能全面、界面清爽的前端工具。

Ollama的出现，大大降低了本地运行大模型的门槛，一行命令就能拉取并启动模型。但原生缺少Web交互界面，Agent、角色管理、文件问答这类高级能力都需要自己额外开发。而LobeHub刚好补齐这块短板，它是开源的AI聊天与Agent工作台，自带角色市场、插件系统、RAG文件支持、多模型管理，界面现代简洁。当LobeHub遇上Ollama，一套私有化本地AI组合就此成型。

整套环境全部使用Docker容器部署，迁移方便，维护简单。所有交互数据都存储在自己服务器内，外网断连也可以继续使用。无论是用来写文档、整理笔记，还是搭建具备工具调用能力的智能Agent，都能胜任。

接下来，本文将从零开始，一步步演示LobeHub容器部署、对接本地Ollama服务，配置Agent角色，测试模型对话与文件问答。同时整理部署过程中容易踩坑的连接问题，看完你就能亲手搭建属于自己的本地私有Agent工作台。

a0bf6374ae84431b9ddb246db6d47d71

1.LobeHub是什么？

LobeHub是一款开源免费的通用大模型Web前端平台，前身是LobeChat，主打Agent智能体 能力，支持Docker一键私有化部署，是本地大模型非常热门的交互工作台LobeHub。

简单理解：Ollama负责底层跑大模型，LobeHub提供可视化操作界面、角色管理、Agent调度能力。它本身不运行大模型，只作为 “调度层” 对接各类模型服务，既可以接入Ollama本地模型，也兼容OpenAI、OneAPI、LM Studio等各类支持OpenAI协议的模型接口。

核心特点

  1. 强大Agent生态：内置Agent Harness调度引擎，支持MCP工具调用、子Agent编排、任务规划，不只是单纯聊天，能让 AI 完成复杂任务；内置角色市场，一键导入别人做好的 AI 助手提示词LobeHub。
  2. 多模型统一管理：一个界面管理所有模型，随时切换Qwen、Llama3、Gemma等本地模型，不用反复切换网页与配置。
  3. 文件与知识库：支持上传PDF、Word等文档，可做文档问答，搭配本地向量数据库实现私有RAG。
  4. 隐私可控：支持Docker本地部署，对话记录、上传文档全部保存在自己服务器，数据不上传到第三方平台，断网环境也能搭配Ollama离线使用。
  5. 现代化 UI 与插件扩展：界面简洁美观，支持自定义提示词、插件扩展、对话分组、记忆管理，个人和小团队都能用。
  6. 部署友好：提供Docker镜像，一行命令启动，迁移、备份简单，NAS、Linux服务器都能跑。

和Ollama的关系

Ollama专注模型的下载、启动、本地推理，但是原生没有Web页面，只提供API接口。LobeHub正好补齐交互短板，对接Ollama的API，把本地模型包装成带Agent能力、文件问答、角色管理的完整 AI 工作台，二者是经典的本地 AI 组合。

一句话总结：Ollama是本地模型引擎，LobeHub是面向Agent的高颜值开源AI工作台。

2.安装前提条件

2.1ssh远程连接到飞牛

  • 开启【SSH服务】
  • 使用终端（Windows PowerShell / Mac Terminal）登录：

在设置—>SSH中开启SSH服务：

463c5f2aa280d7887420494b8b8f852e

27abe7f94baeaebc1738b60b1ba78933

e16c7480a399e50f627439329422c5a7

2.2验证docker是否开启

使用命令：

docker -v 
systemctl status -v

也可以直接在飞牛主页查看（其他机器也是这样的哦~）

bc2a0952beed8ca143a171bb000b2b23

3.安装Ollama

Ollama容器部署（配套，如果你还没装Ollama）

docker run -d \
  --name ollama \
  --restart always \
  -p 11434:11434 \
  -e OLLAMA_HOST=0.0.0.0 \
  -e OLLAMA_ORIGINS=* \
  -v /mnt/ollama:/root/.ollama \
  ollama/ollama

daac412a7f61450a8dd88a02fd6e8a73

拉取模型示例（进 ollama 容器执行）

docker exec -it ollama ollama pull qwen2.5:7b

f7a535d4b697f28d5a65eff118c551c9

4.安装LobeHub

一键部署命令（直接复制到fnOS终端执行）

docker run -d \
  --name lobe-chat \
  --restart always \
  -p 3210:3210 \
  -e ACCESS_CODE=123456 \
  -e OLLAMA_PROXY_URL=http://host.docker.internal:11434/v1 \
  -v /mnt/lobechat:/app/.lobe \
  lobehub/lobe-chat

bca62b4b3aebeb504535538f7f7f60fa

参数说明

  • ACCESS_CODE=123456：网页访问密码，务必修改，防止外网被别人访问
  • OLLAMA_PROXY_URL=http://host.docker.internal:11434/v1：自动访问宿主机 Ollama（Ollama 必须先部署，端口 11434）
  • -v /mnt/lobechat:/app/.lobe：持久化保存对话记录，挂载到 NAS 的 /mnt/lobechat 目录
  • --restart always：开机自启

⚠️ 重要前提：Ollama 必须提前部署在 fnOS，并且设置环境变量 OLLAMA_ORIGINS=*，否则 LobeChat 跨域连不上 Ollama。

常用维护命令

# 查看日志
docker logs -f lobe-chat
# 重启
docker restart lobe-chat
# 删除容器（保留挂载数据）
docker stop lobe-chat && docker rm lobe-chat

部署完成后，在浏览器中输入 http://飞牛IP:3210 就能看到LobeHub的界面：

87f202c63563e88962cad720641feaf7

5.LobeChat的配置与使用

5.1 LobeChat里配置Ollama

  1. 点 关闭提示，关掉这个 API Key 弹窗，回到 LobeChat 主界面

  2. 找到左下角 设置（⚙️齿轮图标），点开

  3. 在【模型服务商】列表，找到 Ollama，把它开启

  4. 关闭 OpenAI 服务商（避免继续跳这个密钥窗口）

  5. Ollama 接口地址填写：

    http://192.168.42.147:11434/v1

    如果这个地址报错，换成你 NAS 内网 IP，示例：http://192.168.1.100:11434/v1

  6. 保存，回到对话页面，顶部模型下拉框，选择你已经拉取的模型，例如 qwen2.5:7b，就可以对话了

8c39453c8fb739c2f2d83670b1682f9e

1b4363e726174387703b7eca9ea85c05

fe37c0313f8adf64c6226557397ec29b

4c9c9dd6b4392db6ced58501e9385ef1

5.2 找不到Ollama选项或报错

① 检查 Ollama 容器是否正常运行

docker ps | grep ollama

看容器状态是不是 Up。

② 确认 Ollama 环境变量

docker inspect ollama

检查环境变量有没有： OLLAMA_HOST=0.0.0.0 OLLAMA_ORIGINS=*

没有的话需要重建 ollama 容器。

③ 测试连通性

在 fnOS 终端执行这条，测试能不能访问 ollama

curl http://127.0.0.1:11434/api/tags

5.3 错误示例

若是出现该错误：

llama-server process has terminated: signal: killed 👉 Ollama 加载模型的时候，被系统强制杀掉进程，99% 是内存不足（OOM，内存溢出） fnOS NAS 内存不够跑 qwen2.5:7b，一发送提问，模型启动直接被系统干掉。

原因说明

qwen2.5:7b Q4_K_M 版本，至少需要 6GB 以上可用内存。

  • 你的 NAS 物理内存如果只有 8G，系统、docker、MediaGo、LobeChat、cpolar 一起占用，剩下的内存不足以跑 7B 模型。
  • Linux 系统发现内存耗尽，内核直接杀死占用内存最大的 ollama 子进程，就会报这个 signal: killed。

image-20261013152434779

换轻量模型，内存需求低很多：

  1. 终端拉取 3B 小模型
docker exec -it ollama ollama pull qwen2.5:3b

ee9be56d1746a5b84ff5c499d45fcb92

2.LobeChat模型切换为 qwen2.5:3b，再对话测试

qwen2.5:3b Q4 版本，仅需 2~3G 内存，8G 内存 NAS 基本可以稳定跑。

a0bf6374ae84431b9ddb246db6d47d71

开源LobeChat搭配cpolar内网穿透，无需公网IP，即可把NAS本地部署的AI对话界面映射到公网，随时随地用手机、平板远程接入，搭配Ollama本地大模型，在外部网络也能私密调用本地模型对话，实现跨设备访问私有化AI助手。

6.安装cpolar实现随时随地开发

6.1 什么是cpolar？

cpolar是一款安全高效的内网穿透工具，无需公网IP或复杂配置，只需一条命令，即可将本地服务器、Web服务或任意端口映射到公网，让你随时随地远程访问内网应用，特别适合开发调试、远程运维和应急部署等场景。

6.2 部署cpolar

cpolar可以将你本地电脑中的服务（如SSH、Web、数据库）映射到公网。即使你在家里或外出时，也可以通过公网地址连接回本地运行的开发环境。

❤️以下是安装cpolar步骤：

官网在此：https://www.cpolar.com

使用一键脚本安装命令：

sudo curl https://get.cpolar.sh | sh

image-20250725104019896

安装完成后，执行下方命令查看cpolar服务状态：（如图所示即为正常启动）

sudo systemctl status cpolar

22e5adfaf290a17fc3384bb296055259

Cpolar安装和成功启动服务后，在浏览器上输入虚拟机主机IP加9200端口即:【http://ip:9200】访问Cpolar管理界面，使用Cpolar官网注册的账号登录,登录后即可看到cpolar web 配置界面,接下来在web 界面配置即可：

打开浏览器访问本地9200端口，使用cpolar账户密码登录即可,登录后即可对隧道进行管理。

8a6698b1bf26d64ba3645827fbfb1c29

7.配置公网地址

登录cpolar web UI管理界面后,点击左侧仪表盘的隧道管理——创建隧道：

  • 隧道名称：可自定义，本例使用了：lobechat，注意不要与已有的隧道名称重复
  • 协议：http
  • 本地地址：3210
  • 域名类型：随机域名
  • 地区：选择China Top

image-20261013173808730

创建成功后，打开左侧在线隧道列表,可以看到刚刚通过创建隧道生成了公网地址，接下来就可以在其他电脑或者移动端设备（异地)上，使用地址访问。

image-20261013173833261

访问成功。

image-20261013173903065

8.保留固定公网地址

使用cpolar为其配置二级子域名（cpolar官网-安全的内网穿透工具 | 无需公网ip | 远程访问 | 搭建网站），该地址为固定地址，不会随机变化。

image-20250918151358733

点击左侧的预留，选择保留二级子域名，地区选择china Top，然后设置一个二级子域名名称，我使用的是lobechat，大家可以自定义。填写备注信息，点击保留。

image-20261013174019331

登录cpolar web UI管理界面，点击左侧仪表盘的隧道管理——隧道列表，找到所要配置的隧道，点击右侧的编辑。

image-20261013174042731

修改隧道信息，将保留成功的二级子域名配置到隧道中

  • 域名类型：选择二级子域名
  • Sub Domain：填写保留成功的二级子域名
  • 地区: China Top

点击更新

image-20261013174124429

更新完成后，打开在线隧道列表，此时可以看到随机的公网地址已经发生变化，地址名称也变成了保留和固定的二级子域名名称。

image-20261013174137157

最后，我们使用固定的公网地址在任意设备的浏览器中访问，可以看到成功访问的页面，这样一个永久不会变化的二级子域名公网网址即设置好了。

image-20261013174202747

总结

依托 LobeHub搭配 Ollama，普通人也能在 NAS 上快速搭建一套本地私有 Agent 工作台。整套方案完全本地运行，对话数据不会上传第三方云端，隐私可控；可自由切换 Qwen、Llama 等各类开源大模型，支持自定义 Agent 角色、插件拓展，实现文档解读、信息检索等自动化任务。搭配 cpolar 内网穿透，无需公网 IP，手机、电脑在外网就能远程访问这个私有 AI 工作台，不受平台额度、网络限制，低成本拥有属于自己的私有化 AI 智能助手。

感谢您对本篇文章的喜爱，有任何问题欢迎留言交流。cpolar官网-安全的内网穿透工具 | 无需公网ip | 远程访问 | 搭建网站

Share:

鸽子

鸽子

我是鸽子，是这个网站的文章编辑之一！喜欢研究各种有趣的开源项目。希望大家喜欢我的文章！

发表回复

目录

On Key

推荐文章