需采用Ollama为本地模型引擎、OpenWebUI为可视化前端的离线组合方案,通过WSL2+Ubuntu、Docker Compose或纯宿主机三种路径实现零付费、全离线、数据不外泄的私人ChatGPT式服务。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜如果您希望在家中搭建一个无需付费、完全离线、数据不外泄的私人ChatGPT式服务,则需将Ollama作为本地大模型运行引擎,OpenWebUI作为可视化交互前端。二者协同工作,可绕过所有云端API依赖,在无网络或断网状态下持续提供类ChatGPT体验。以下是实现该目标的多种可行部署路径:
一、基于WSL 2 + Ubuntu的Windows原生兼容方案
该方案利用Windows Subsystem for Linux规避Windows平台对Ollama原生支持不足的问题,通过Linux子系统获得稳定、低延迟的模型加载与推理能力,适合长期驻留、注重隐私与静默运行的用户。
1、以管理员身份运行PowerShell,执行命令启用WSL功能与虚拟机平台:dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart
2、重启电脑后,在PowerShell中执行:
wsl --set-default-version 2 3、前往Microsoft Store安装Ubuntu 22.04 LTS,首次启动时完成用户名与密码设置
4、在Ubuntu终端中依次执行:
sudo apt update && sudo apt upgrade -y sudo apt install curl -y
5、运行官方安装脚本:
curl -fsSL https://ollama.com/install.sh | sh
6、启动Ollama服务后台运行:
ollama serve &7、下载并验证模型(如Llama 3.2:3b):ollama run llama3.2:3b 8、在Windows端安装Docker Desktop,确保服务已启动;随后执行OpenWebUI容器命令:docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://host.docker.internal:11434 --name open-webui ghcr.io/open-webui/open-webui:main
9、浏览器访问
http://localhost:3000,注册账号并选择已加载模型即可开始对话
二、Docker Compose一键编排方案
该方案将Ollama与OpenWebUI封装为统一服务单元,通过YAML配置实现端口、卷挂载、环境变量及网络策略的集中管理,适合希望复用配置、快速迁移或批量部署多模型环境的用户。
1、在Windows任意目录新建文件夹,创建名为
docker-compose.yml的文本文件
2、写入以下内容(请将
D:softwarellms
替换为实际路径):
version: '3.8'services:ollama:image: ollama/ollama:latest ports:- "11434:11434"volumes:- "D:\software\llms\ollama:/root/.ollama"container_name: ollama restart: always open-webui:image: ghcr.io/open-webui/open-webui:main container_name: open-webui volumes:- "D:\software\llms\open-webui\data:/app/backend/data"depends_on:- ollama ports:- "3000:8080"environment:- "OLLAMA_BASE_URL=http://ollama:11434"- "WEBUI_SECRET_KEY=your_secure_key_here"- "HF_ENDPOINT=https://hf-mirror.com"extra_hosts:- "host.docker.internal:host-gateway"restart: unless-stopped
3、在该文件所在目录打开PowerShell,执行:
docker-compose up -d ChatGPT最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。
下载
4、等待约90秒后,检查容器状态:
docker ps
5、确认两个容器均显示
Up状态后,访问http://localhost:3000
三、纯宿主机直连模式(免Docker)
该方案跳过容器层,直接在Windows系统上安装Ollama桌面版,并使用Node.js运行OpenWebUI源码,适用于无法启用Docker或WSL、但具备基础开发环境的用户,部署后资源占用更低、调试更直观。
1、访问
https://github.com/ollama/ollama/releases下载最新Windows安装包(.exe),双击完成安装2、打开Windows终端(CMD或PowerShell),执行:ollama --version
3、验证成功后,下载模型:
ollama run deepseek-r1-distill-llama:8b
4、打开新终端窗口,执行:
ollama serve
5、另起终端,克隆OpenWebUI源码:
git clone https://github.com/open-webui/open-webui.git cd open-webui
6、安装依赖并构建前端:
npm install npm run build
7、复制示例环境配置:
copy .env.example .env
8、编辑
.env
文件,修改关键行:
OLLAMA_BASE_URL=http://127.0.0.1:11434 WEBUI_SECRET_KEY=your_32_char_random_string
9、启动服务:
npm run start
10、浏览器访问
http://localhost:3000,完成初始化注册
