DeepSeek + 嵌入模型+个人本地知识库:用CherryStudio打造本地智能助手
- 2025-03-12
- 阅读:336
一、什么是知识库?
知识库(Knowledge Base),顾名思义,是知识的宝库,它是一个系统化的知识存储与管理平台,既包含结构化的数据,也囊括非结构化的信息,旨在帮助用户或系统高效地检索和获取所需知识。你可以把它比作一座“智慧仓库”,其中珍藏着各式各样的宝贵信息,如文档、常见问题解答(FAQ)、数据库、规则以及案例等。例如:假设你是一家企业的客服代表,当客户就产品相关问题咨询时,若拥有一个健全的知识库,你便能够迅速在其中搜索到相关产品的使用指南或常见问题的解决方案,从而快速准确地回应客户。而倘若没有知识库的辅助,你可能不得不求助于同事,或者在成堆的文件中逐一查找,这无疑会大大降低工作效率。接下来,我们自然而然地要谈到与知识库密切相关的另一个概念——RAG。
二、什么是RAG?
RAG(Retrieval Augmented Generation,检索增强生成)是一种让大语言模型(LLM)变得更聪明的方法。
简单来说,它通过给模型提供一个外部的“知识库”,让模型在回答问题时可以“查资料”,从而给出更准确、更相关的答案。
三、为什么需要RAG?
大模型的知识存在局限:大模型的知识库主要来源于其训练时所使用的数据,然而这些数据是有限的,特别是对于企业内部的专业知识或特定产品信息,模型可能一无所知。
微调成本高昂:若想让大模型掌握企业特定的知识,通常需要对模型进行微调,但这不仅费用高昂,而且结果也未必理想。
幻觉问题突出:在不熟悉的领域,大模型可能会给出完全错误的答案,这在企业应用中是绝对不能接受的,特别是在那些要求信息高度准确的场景中。
搭建实操步骤
步骤一:下载Cherry Studio可视化工具
网盘下载:https://pan.quark.cn/s/a1373e4ee339
官方下载:https://cherry-ai.com/download


步骤二:部署DeepSeek模型 + Embedding模型
1、注册硅基流动账号
https://cloud.siliconflow.cn/i/hx61K8tI
2、新建API秘钥

拿到API秘钥后到Cherry Studio客户端内,
点击左下角【设置】——》将复制的API秘钥填写进去即可。

3、添加DeepSeek推理模型
- 点击底部的 【管理按钮】;
- 找到需要的模型,点击右侧【+】添加到我的模型。

4、添加Embeding嵌入模型
我们需要添加嵌入式模型,否者无法使用知识库功能。

BAAI/bge-m3模型是免费的,
Pro/BAAI/bge-m3模型是收费的,
5、 创建知识库
- 知识库入口:在 CherryStudio 左侧工具栏,点击知识库图标,即可进入管理页面;
- 添加知识库:点击添加,开始创建知识库;
- 命名:输入知识库的名称并添加嵌入模型,以 bge-m3 为例,即可完成创建。

6、添加文件并向量化
- 添加文件: 点击添加文件的按钮,打开文件选择;
- 选择文件: 选择支持的文件格式,如 pdf,docx,pptx,xlsx,txt,md,mdx 等,并打开;
- 向量化: 系统会自动进行向量化处理,当显示完成时(绿色 ✓),代表向量化已完成

7、在对话框引入知识库


部分评论