使用Ollama搭建本地DeepSeek

第一步：下载安装 Ollama

Ollama 官方网址：https://ollama.ai

根据自己的操作系统下载对应版本，直接安装即可。

第二步：下载 DeepSeek 与嵌入模型

在 Ollama 里点击 Models 或者在搜索栏搜 DeepSeek-R1，选择一个合适的模型（这里以 1.5b 为例），复制命令到命令行粘贴执行，显示 "success" 就 OK 了。

下载嵌入模型，在搜索栏搜索 "nomic-embed-text"，再复制命令到终端粘贴即可。

第三步：更改 Ollama 模型位置

Ollama 默认将模型安装在 C 盘，但许多朋友的 C 盘存储空间不足。可以通过环境变量更改安装位置：

1. 进入设置 → 高级系统设置 → 环境变量
2. 点击新建，变量名输入 Ollama_MODELS，变量值输入希望安装模型的位置，如 D:\Ollama\models

如果已经把模型下载在了 C 盘，可以把 C:\Users\XX\.Ollama\models 文件夹里的文件，移动到上一步填写的位置。

本地知识库工具 AnythingLLM 部署

第一步：安装 AnythingLLM

官方地址：https://anythingllm.com/，选择对应系统下载安装。

第二步：配置 AnythingLLM

1. 列表里选择 Ollama，再选择模型
2. 数据处理和用户调研，直接点击下一步和跳过
3. 设置好工作区之后，修改界面语言为 Chinese

第三步：数据投喂

在设置里选择 Embedder 首选项，提供商选择 "Ollama"，模型选择 "nomic-embed-text:latest"，保存更改。

点击工作区旁边的上传按钮，上传文件后移动到右侧工作区，最后点击保存。

验证：点击 New Thread，问个相关的问题，看到回答最下方显示有引用就 OK 了。

文章来源

本文内容整理自以下原始出处：

• https://blog.csdn.net/wozhendeyumenle/article/details/145495987

原文作者：闫哥大数据（CSDN）