← 返回首页
DeepSeek · 本地部署

DeepSeek R1 本地部署(Ollama+Docker+OpenWebUI)

基于 Ollama+Docker+OpenWebUI 的 DeepSeek R1 本地化部署全流程,涵盖软硬件需求、Ollama 安装、模型下载、Docker 配置与 OpenWebUI 可视化界面搭建。

作者:youcans 来源:CSDN 更新:2025/03/24

软硬件需求

硬件需求

  • 基本推荐配置:CPU 8核或以上,内存 32GB或以上,存储 100GB SSD或以上,GPU: NVIDIA GTX 1080或同等性能
  • DeepSeek-7B 推荐配置:RTX3060 以上显卡 + 16G以上内存 + 50G SSD 存储空间
  • DeepSeek-70B 推荐配置:RTX4060 以上显卡 + 32G以上内存 + 200G SSD 存储空间

本教程使用的硬件配置为:CPU: Intel i5-12490/3.00GHz,内存: 32GB,存储: 500GB SSD,GPU: NVIDIA GTX 3060。

软件依赖

本教程采用 Windows10 操作系统、Python 3.8 版本、PyTorch 1.7 版本。

Ollama 下载与安装

Ollama 的下载

Ollama 是一个开源的本地模型运行工具,可以方便地下载和运行各种开源模型,如 Llama、Qwen、DeepSeek 等。Ollama 提供高效、灵活的大模型部署和管理解决方案,支持 macOS、Linux、Windows 操作系统。

官网地址:https://ollama.com/

本教程选择 Ollama Windows 版本 下载。

Ollama 的安装

下载完成后直接点击 OllamaSetup.exe 进行安装。

安装完成后,cmd 打开命令行窗口,输入 ollama -v 测试,显示 ollama 的版本号表明安装成功。

Ollama 的运行

Ollama 没有用户界面,在后台运行。打开浏览器,输入 http://localhost:11434/,显示 "Ollama is running"。

deepseek-r1 模型安装

安装 deepseek-r1 模型

ollama 官网 查找 deepseek-r1 模型,点击进入后可以选择不同版本的模型(1.5b/7b/14b/32b/70b/671b)。

deepseek-r1 提供多个版本,参数量越大,模型的性能越强大,但也需要更多的存储和计算资源:

  • 1.5b 模型参数为15亿/1.1GB
  • 7b 模型参数约为 70亿/4.7GB
  • 14b 模型参数约为 140亿/9GB

不同版本模型的执行命令:

ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:14b

推荐大家先下载较小的 1.5b 模型,把安装程序跑通,再根据自己的硬件配置和需求安装适当的版本。

默认地址是 C:\Users\%username%\.ollama\models。如果要修改模型的保存地址,可以新建一个文件夹如 C:\Model,然后在系统环境变量添加系统变量:变量名 OLLAMA_MODELS,变量值 C:\Model

使用 deepseek-r1 模型

在命令行窗口运行命令 ollama run deepseek-r1:7b,就可以在提示行输入,与 deepseek-r1 进行聊天。输入 /? 可以获得帮助。

通过本地命令行窗口可以使用 deepseek-r1,但交互体验较差。接下来安装 Docker 和 Open WebUI,可以更便捷地使用。

安装 Docker

检查安装环境

在 Windows 任务管理器中,检查系统是否开启虚拟化:

  1. 打开任务管理器(Ctrl+Alt+Delete),选择:性能 - CPU - 虚拟化,确认"虚拟化"已启用
  2. 如果未开启虚拟化,则要开机重启并进入 BIOS 进行设置:选择 Advanced(高级)-- CPU Configuration – Secure Virtual Machine,设置为 Enabled(启用)
  3. 在"控制面板"打开"程序",点击"启用或关闭 Windows 功能",勾选"Hyper-V 管理工具"和"Hyper-V 平台"
  4. 以管理员身份打开命令行窗口,输入 wsl --set-default-version 2
  5. 输入 wsl --update --web-download,更新安装 wsl

安装 Docker for Desktop

Docker 官方 下载 Docker 安装程序,依照提示完成安装。

安装完成后,cmd 打开命令行窗口,输入 docker version 检查,显示 docker 版本表明安装成功。

配置国内镜像源

在命令行执行 docker run hello-world,可能出现连接超时报错。这是 Docker 守护进程在尝试连接到 Docker Hub 时发生连接超时。

进入 docker,选择 Settings – Docker Engine,将镜像源替换如下:

{
  "registry-mirrors": [
    "https://docker.m.daocloud.io",
    "https://docker.1panel.live",
    "https://registry.docker-cn.com",
    "https://cr.console.aliyun.com",
    "https://mirror.ccs.tencentyun.com"
  ]
}

点击 "Apply & restart",重启并再次进入 docker,等待 Engine Starting 后就成功。

再次执行命令 docker run hello-world,就可以成功拉取 hello-world 镜像并运行。

安装 Open WebUI

安装和启动 open-webui

Open WebUI 是一个可扩展、功能丰富、用户友好的自托管 WebUI,旨在完全离线操作。它支持各种 LLM 运行程序,包括 Ollama 和 OpenAI 兼容的 API。

从 open-webui 项目的 Github 仓库 找到用于 Ollama 的安装命令:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

注意,如果运行支持 Nvidia GPU 的 Open WebUI,使用以下命令:

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

在命令行执行 docker 命令,自动下载并安装 open-webui。

登录 Open-WebUI 进入 deepseek-r1

  1. 在浏览器输入 localhost:3000/authhttp://127.0.0.1:3000,进入 Open-WebUI 首页
  2. 注册账号密码,创建管理员账号
  3. 注册完成并登录,就进入 deepseek-r1 模型的首页
现在,就可以用本地部署的 deepseek-r1 模型进行聊天了。本地部署在数据安全、性能、定制化、成本、离线可用性和技术自主性方面具有显著优势。

文章来源

本文内容整理自以下原始出处:

原文作者:youcans(CSDN)