⚠ 疑义说明
本文内容由 WebFetch 抓取摘要后经 AI 扩充整理,非逐字原文。且与同分类下「Ollama 搭建 DeepSeek」存在主题重叠(均涉及 DeepSeek + AnythingLLM 知识库)。请人工对照原文核验准确性,并确认两篇差异度是否足够。
DeepSeek+本地知识库:真的太香了
基于本地 DeepSeek 模型,使用 Cherry Studio 和 AnythingLLM 搭建个人知识库,实现隐私安全与离线可用。
前言
今天分享下 DeepSeek + 本地知识库的部署方案。本地部署的优势在于隐私性很好,不用担心自己的资料外泄、离线可用;在工作和学习过程中对自己整理的文档,能快速找到,并自动关联;在代码开发上,能参考你的开发习惯,快速生成代码。
方案一:基于 Cherry Studio 搭建(首选)
基于本地的 DeepSeek 搭建个人知识库。使用本地服务,安装嵌入模型,用于将文本数据转换为向量标识的模型。
# 命令行窗口执行拉取下即可
ollama pull bge-m3
下载 Cherry Studio
根据自己的环境下载 Cherry Studio。安装的时候,注意安装到其他磁盘,不要在 C 盘安装。
配置本地 Ollama
操作步骤:
- 找到左下角设置图标
- 选择模型服务
- 选择 Ollama
- 点击管理
- 点击模型后面的加号(会自动查找到本地安装的模型)
- 减号表示已经选择了
知识库配置
- 选择知识库
- 选择添加
- 选择嵌入模型
- 填写知识库名称
添加知识文档
Cherry 可以添加文档,也可以添加目录(这个极其方便),添加完以后出现绿色的对号,表示向量化完成。
搜索验证
向量化完成后,可以验证知识库是否生效:
- 点击搜索知识库
- 输入搜索内容
- 点击搜索
- 验证是否能正确关联到相关文档
大模型处理
点击左上角的聊天图标 -> 点击助手 -> 点击默认助手 -> 选择大模型 -> 选择本地 DeepSeek -> 设置知识库(不设置不会参考)-> 输入提问内容 -> 发问。
方案二:基于 AnythingLLM 搭建
下载 AnythingLLM Desktop
官方地址:https://anythingllm.com/,进入主页点击 "Download for desktop",选择对应的系统下载。
配置 AnythingLLM
- 点击 LLM 首选项
- 选择 Ollama 作为模型提供商
- 选择已安装的 DeepSeek 模型
- 注意下地址
- 向量数据库不用动,使用自带的
- 嵌入模型可使用自带的或 Ollama 安装好的
- 保存
配置工作区
新建工作区 -> 默认会话 -> 上传知识库文档。将文档拖拽到上传框即可。
AnythingLLM 还可以提供 API 访问的功能,作为公共知识库使用。
总结
整个操作下来,AnythingLLM 的体验没有 Cherry 好。AnythingLLM 就像一个包壳的 web 应用,得具备一定的程序思维,给技术人员用的。非技术人员还是使用 Cherry 吧。作为喜欢折腾的开发人员,我们可以结合 Dify 使用。
- 隐私性很好,不用担心自己的资料外泄、离线可用
- 在工作和学习过程中对自己整理的文档,能快速找到,并自动关联
- 在代码开发上,能参考你的开发习惯,快速生成代码
文章来源
本文内容整理自以下原始出处:
原文作者:关注我学java(CSDN)