DeepSeek R1 本地部署(Ollama+Docker+OpenWebUI)
基于 Ollama+Docker+OpenWebUI 的 DeepSeek R1 本地化部署全流程,涵盖软硬件需求、Ollama 安装、模型下载、Docker 配置与 OpenWebUI 可视化界面搭建。
软硬件需求
硬件需求
- 基本推荐配置:CPU 8核或以上,内存 32GB或以上,存储 100GB SSD或以上,GPU: NVIDIA GTX 1080或同等性能
- DeepSeek-7B 推荐配置:RTX3060 以上显卡 + 16G以上内存 + 50G SSD 存储空间
- DeepSeek-70B 推荐配置:RTX4060 以上显卡 + 32G以上内存 + 200G SSD 存储空间
本教程使用的硬件配置为:CPU: Intel i5-12490/3.00GHz,内存: 32GB,存储: 500GB SSD,GPU: NVIDIA GTX 3060。
软件依赖
本教程采用 Windows10 操作系统、Python 3.8 版本、PyTorch 1.7 版本。
Ollama 下载与安装
Ollama 的下载
Ollama 是一个开源的本地模型运行工具,可以方便地下载和运行各种开源模型,如 Llama、Qwen、DeepSeek 等。Ollama 提供高效、灵活的大模型部署和管理解决方案,支持 macOS、Linux、Windows 操作系统。
官网地址:https://ollama.com/
本教程选择 Ollama Windows 版本 下载。
Ollama 的安装
下载完成后直接点击 OllamaSetup.exe 进行安装。
安装完成后,cmd 打开命令行窗口,输入 ollama -v 测试,显示 ollama 的版本号表明安装成功。
Ollama 的运行
Ollama 没有用户界面,在后台运行。打开浏览器,输入 http://localhost:11434/,显示 "Ollama is running"。
deepseek-r1 模型安装
安装 deepseek-r1 模型
从 ollama 官网 查找 deepseek-r1 模型,点击进入后可以选择不同版本的模型(1.5b/7b/14b/32b/70b/671b)。
deepseek-r1 提供多个版本,参数量越大,模型的性能越强大,但也需要更多的存储和计算资源:
- 1.5b 模型参数为15亿/1.1GB
- 7b 模型参数约为 70亿/4.7GB
- 14b 模型参数约为 140亿/9GB
不同版本模型的执行命令:
ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:14b
推荐大家先下载较小的 1.5b 模型,把安装程序跑通,再根据自己的硬件配置和需求安装适当的版本。
默认地址是 C:\Users\%username%\.ollama\models。如果要修改模型的保存地址,可以新建一个文件夹如 C:\Model,然后在系统环境变量添加系统变量:变量名 OLLAMA_MODELS,变量值 C:\Model。
使用 deepseek-r1 模型
在命令行窗口运行命令 ollama run deepseek-r1:7b,就可以在提示行输入,与 deepseek-r1 进行聊天。输入 /? 可以获得帮助。
安装 Docker
检查安装环境
在 Windows 任务管理器中,检查系统是否开启虚拟化:
- 打开任务管理器(Ctrl+Alt+Delete),选择:性能 - CPU - 虚拟化,确认"虚拟化"已启用
- 如果未开启虚拟化,则要开机重启并进入 BIOS 进行设置:选择 Advanced(高级)-- CPU Configuration – Secure Virtual Machine,设置为 Enabled(启用)
- 在"控制面板"打开"程序",点击"启用或关闭 Windows 功能",勾选"Hyper-V 管理工具"和"Hyper-V 平台"
- 以管理员身份打开命令行窗口,输入
wsl --set-default-version 2 - 输入
wsl --update --web-download,更新安装 wsl
安装 Docker for Desktop
从 Docker 官方 下载 Docker 安装程序,依照提示完成安装。
安装完成后,cmd 打开命令行窗口,输入 docker version 检查,显示 docker 版本表明安装成功。
配置国内镜像源
在命令行执行 docker run hello-world,可能出现连接超时报错。这是 Docker 守护进程在尝试连接到 Docker Hub 时发生连接超时。
进入 docker,选择 Settings – Docker Engine,将镜像源替换如下:
{
"registry-mirrors": [
"https://docker.m.daocloud.io",
"https://docker.1panel.live",
"https://registry.docker-cn.com",
"https://cr.console.aliyun.com",
"https://mirror.ccs.tencentyun.com"
]
}
点击 "Apply & restart",重启并再次进入 docker,等待 Engine Starting 后就成功。
再次执行命令 docker run hello-world,就可以成功拉取 hello-world 镜像并运行。
安装 Open WebUI
安装和启动 open-webui
Open WebUI 是一个可扩展、功能丰富、用户友好的自托管 WebUI,旨在完全离线操作。它支持各种 LLM 运行程序,包括 Ollama 和 OpenAI 兼容的 API。
从 open-webui 项目的 Github 仓库 找到用于 Ollama 的安装命令:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
注意,如果运行支持 Nvidia GPU 的 Open WebUI,使用以下命令:
docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda
在命令行执行 docker 命令,自动下载并安装 open-webui。
登录 Open-WebUI 进入 deepseek-r1
- 在浏览器输入
localhost:3000/auth或http://127.0.0.1:3000,进入 Open-WebUI 首页 - 注册账号密码,创建管理员账号
- 注册完成并登录,就进入 deepseek-r1 模型的首页
文章来源
本文内容整理自以下原始出处:
原文作者:youcans(CSDN)