← 返回首页

⚠ 疑义说明

本文内容由 WebFetch 抓取摘要后经 AI 扩充整理,非逐字原文。且与同分类下「Ollama 搭建 DeepSeek」存在主题重叠(均涉及 DeepSeek + AnythingLLM 知识库)。请人工对照原文核验准确性,并确认两篇差异度是否足够。

DeepSeek · 知识库

DeepSeek+本地知识库:真的太香了

基于本地 DeepSeek 模型,使用 Cherry Studio 和 AnythingLLM 搭建个人知识库,实现隐私安全与离线可用。

作者:关注我学java 来源:CSDN 更新:2025/02/06

前言

今天分享下 DeepSeek + 本地知识库的部署方案。本地部署的优势在于隐私性很好,不用担心自己的资料外泄、离线可用;在工作和学习过程中对自己整理的文档,能快速找到,并自动关联;在代码开发上,能参考你的开发习惯,快速生成代码。

方案一:基于 Cherry Studio 搭建(首选)

基于本地的 DeepSeek 搭建个人知识库。使用本地服务,安装嵌入模型,用于将文本数据转换为向量标识的模型。

# 命令行窗口执行拉取下即可
ollama pull bge-m3

下载 Cherry Studio

根据自己的环境下载 Cherry Studio。安装的时候,注意安装到其他磁盘,不要在 C 盘安装。

配置本地 Ollama

操作步骤:

  1. 找到左下角设置图标
  2. 选择模型服务
  3. 选择 Ollama
  4. 点击管理
  5. 点击模型后面的加号(会自动查找到本地安装的模型)
  6. 减号表示已经选择了

知识库配置

  1. 选择知识库
  2. 选择添加
  3. 选择嵌入模型
  4. 填写知识库名称

添加知识文档

Cherry 可以添加文档,也可以添加目录(这个极其方便),添加完以后出现绿色的对号,表示向量化完成。

搜索验证

向量化完成后,可以验证知识库是否生效:

  1. 点击搜索知识库
  2. 输入搜索内容
  3. 点击搜索
  4. 验证是否能正确关联到相关文档

大模型处理

点击左上角的聊天图标 -> 点击助手 -> 点击默认助手 -> 选择大模型 -> 选择本地 DeepSeek -> 设置知识库(不设置不会参考)-> 输入提问内容 -> 发问。

如果你的知识库有隐私数据,不要联网!不要联网!不要联网!
满血版配置:如果想使用在线满血版 DeepSeek,差别就是大模型的选择,在模型服务里配置下在线的 DeepSeek 服务即可。

方案二:基于 AnythingLLM 搭建

下载 AnythingLLM Desktop

官方地址:https://anythingllm.com/,进入主页点击 "Download for desktop",选择对应的系统下载。

安装的时候,注意安装到其他磁盘,不要在 C 盘安装。

配置 AnythingLLM

  1. 点击 LLM 首选项
  2. 选择 Ollama 作为模型提供商
  3. 选择已安装的 DeepSeek 模型
  4. 注意下地址
  5. 向量数据库不用动,使用自带的
  6. 嵌入模型可使用自带的或 Ollama 安装好的
  7. 保存

配置工作区

新建工作区 -> 默认会话 -> 上传知识库文档。将文档拖拽到上传框即可。

注意:文档只需要拖拽一次即可,文档在工作区间内是共用的。如果拖拽后没看到上传成功提示,不要重复拖拽。

AnythingLLM 还可以提供 API 访问的功能,作为公共知识库使用。

总结

整个操作下来,AnythingLLM 的体验没有 Cherry 好。AnythingLLM 就像一个包壳的 web 应用,得具备一定的程序思维,给技术人员用的。非技术人员还是使用 Cherry 吧。作为喜欢折腾的开发人员,我们可以结合 Dify 使用。

  • 隐私性很好,不用担心自己的资料外泄、离线可用
  • 在工作和学习过程中对自己整理的文档,能快速找到,并自动关联
  • 在代码开发上,能参考你的开发习惯,快速生成代码

文章来源

本文内容整理自以下原始出处:

原文作者:关注我学java(CSDN)