跳转到主内容
websoft网络软件专家 - 深耕网络技术,打造实用软件!

Ollama+OpenWebUI实战_在家搭建免费私人ChatGPT服务器

需采用Ollama为本地模型引擎、OpenWebUI为可视化前端的离线组合方案,通过WSL2+Ubuntu、Docker Compose或纯宿主机三种路径实现零付费、全离线、数据不外泄的私人ChatGPT式服务。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜如果您希望在家中搭建一个无需付费、完全离线、数据不外泄的私人ChatGPT式服务,则需将Ollama作为本地大模型运行引擎,OpenWebUI作为可视化交互前端。二者协同工作,可绕过所有云端API依赖,在无网络或断网状态下持续提供类ChatGPT体验。以下是实现该目标的多种可行部署路径:

一、基于WSL 2 + Ubuntu的Windows原生兼容方案

该方案利用Windows Subsystem for Linux规避Windows平台对Ollama原生支持不足的问题,通过Linux子系统获得稳定、低延迟的模型加载与推理能力,适合长期驻留、注重隐私与静默运行的用户。

1、以管理员身份运行PowerShell,执行命令启用WSL功能与虚拟机平台:dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart

2、重启电脑后,在PowerShell中执行:

wsl --set-default-version 2 3、前往Microsoft Store安装Ubuntu 22.04 LTS,首次启动时完成用户名与密码设置

4、在Ubuntu终端中依次执行:

sudo apt update && sudo apt upgrade -y sudo apt install curl -y

5、运行官方安装脚本:

curl -fsSL https://ollama.com/install.sh | sh

6、启动Ollama服务后台运行:

ollama serve &7、下载并验证模型(如Llama 3.2:3b):ollama run llama3.2:3b 8、在Windows端安装Docker Desktop,确保服务已启动;随后执行OpenWebUI容器命令:docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://host.docker.internal:11434 --name open-webui ghcr.io/open-webui/open-webui:main

9、浏览器访问

http://localhost:3000,注册账号并选择已加载模型即可开始对话

二、Docker Compose一键编排方案

该方案将Ollama与OpenWebUI封装为统一服务单元,通过YAML配置实现端口、卷挂载、环境变量及网络策略的集中管理,适合希望复用配置、快速迁移或批量部署多模型环境的用户。

1、在Windows任意目录新建文件夹,创建名为

docker-compose.yml的文本文件

2、写入以下内容(请将

D:softwarellms

替换为实际路径):

version: '3.8'services:ollama:image: ollama/ollama:latest ports:- "11434:11434"volumes:- "D:\software\llms\ollama:/root/.ollama"container_name: ollama restart: always open-webui:image: ghcr.io/open-webui/open-webui:main container_name: open-webui volumes:- "D:\software\llms\open-webui\data:/app/backend/data"depends_on:- ollama ports:- "3000:8080"environment:- "OLLAMA_BASE_URL=http://ollama:11434"- "WEBUI_SECRET_KEY=your_secure_key_here"- "HF_ENDPOINT=https://hf-mirror.com"extra_hosts:- "host.docker.internal:host-gateway"restart: unless-stopped

3、在该文件所在目录打开PowerShell,执行:

docker-compose up -d ChatGPT最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

下载

4、等待约90秒后,检查容器状态:

docker ps

5、确认两个容器均显示

Up状态后,访问http://localhost:3000

三、纯宿主机直连模式(免Docker)

该方案跳过容器层,直接在Windows系统上安装Ollama桌面版,并使用Node.js运行OpenWebUI源码,适用于无法启用Docker或WSL、但具备基础开发环境的用户,部署后资源占用更低、调试更直观。

1、访问

https://github.com/ollama/ollama/releases下载最新Windows安装包(.exe),双击完成安装2、打开Windows终端(CMD或PowerShell),执行:ollama --version

3、验证成功后,下载模型:

ollama run deepseek-r1-distill-llama:8b

4、打开新终端窗口,执行:

ollama serve

5、另起终端,克隆OpenWebUI源码:

git clone https://github.com/open-webui/open-webui.git cd open-webui

6、安装依赖并构建前端:

npm install npm run build

7、复制示例环境配置:

copy .env.example .env

8、编辑

.env

文件,修改关键行:

OLLAMA_BASE_URL=http://127.0.0.1:11434 WEBUI_SECRET_KEY=your_32_char_random_string

9、启动服务:

npm run start

10、浏览器访问

http://localhost:3000,完成初始化注册

相关文章