DeepSeek 本地化部署+个人知识库搭建与使用,三步搞定!详细教程

360影视 2025-02-05 00:08 2

摘要:上周六,写过一篇《法律人使用DeepSeek的8大进阶技巧及实操范例丨附详细指令模板(收藏)》,文中提到DeepSeek-R1私有知识库构建方案【本地化部署】,有读者催问,怎么弄?

上周六,写过一篇《法律人使用DeepSeek的8大进阶技巧及实操范例丨附详细指令模板(收藏)》,文中提到DeepSeek-R1私有知识库构建方案【本地化部署】,有读者催问,怎么弄?

来问的多数是法律人,的确,作为一名律师,经常需要处理大量的案件资料和法律文件。自从DeepSeek-R1火了之后,你可能心心念念想拥有一个专属的智能助手,至少尝鲜的心态是有的。

不过,实话实说,如果真的能够搭建自己的知识管理系统,帮助你更高效地完成工作,谁会不想呢?

现在,全网都在教大家通过本地部署DeepSeek AI模型的教程,有的确实很有用,对于理工男来说都是小儿科,但是对于“手残党”,还是有一点点挑战的。

以下是一个简单易懂的教程,即使是没有任何计算机基础知识的“小白”,也能轻松上手,只要你按照步骤来,就能轻松把它塞进你的电脑。

第一、准备工作要做好

在开始之前,请确保你的电脑满足以下最低基本要求:

操作系统:Windows、macOS或Linux

硬件配置:至少4核处理器、8GB内存(建议16GB以上)、12GB以上存储空间(建议20GB以上)

第二、三步搞定DeepSeek本地部署

第一步:下载并安装Ollama

Ollama是一个开源的本地化大模型部署工具,能够简化大语言模型的安装、运行和管理。

1. 访问Ollama官网:

①打开浏览器,访问Ollama官网。看到如下这个页面:

提示:打开这个页面之后,先不要关闭,因为第二步还要用到这个页面!】

重点提示:确保选择与你的电脑操作系统匹配的安装包。

②按照网页上显示的不同操作系统的下载按钮,例如“Windows”“macOS”“Linux”。

2. 下载安装包:

①如果你使用的是Windows系统,直接点击“Windows”按钮下载。

②如果你使用的是macOS或Linux系统,按照网页上的说明进行操作。

③下载完成后,你会看到一个安装包文件。

3. 安装Ollama:

①安装方法:双击下载的安装包文件,按照提示完成安装。

②注意:安装过程中会弹出安装向导,点击“下一步”并接受许可协议,选择安装路径等。

③安装向导界面如下:

4. 验证安装:

①Ollama安装完成后, 打开命令提示符(Windows)或终端(macOS/Linux)。【因为我是在Windows电脑上完成部署的,就以Windows 操作系统为例】

提示:很多电脑小白(熟练者请绕道)不知道如何打开命令提示符,看下图。方法一:电脑桌面左下角找到有个搜索的符号,在对话框内输入“CMD”,回车,命令提示符就可以调出来了。

方法二:快捷键win+R,输入“cmd”按回车,输入ollama ,按回车。

②输入以下命令【ollama】并按回车键:

ollama

如果看到类似“Ollama version X.Y.Z”的信息,说明安装成功。

到这里,第一步就完成了,我们要进行第二步了。

第二步:下载并安装DeepSeek R1模型

这时候又回到Ollama模型页面,前面提到过,不要关闭这个页面,就是这里又要用到,如果关闭了,也没关系哈,点击下面这个链接即可:

1.访问Ollama官网:

“Models”按钮。

2.搜索并选择DeepSeek模型

在搜索栏中输入“DeepSeek”,找到“DeepSeek-r1”模型。

重点提示:选择适合你电脑配置的模型版本。对于目前大多数律师选用的笔记本电脑配置,推荐选择“DeepSeek-R1-7B”模型。

DeepSeek R1提供多个版本,参数量越大,模型通常越强大,但也需要更多的计算资源。比如1.5B代表有15亿个参数。具体选择哪一个看你硬件设备了。

3. 复制模型下载命令:

点击“DeepSeek-r1”模型旁边的“复制”按钮,复制模型下载命令:

ollama run deepseek-r1:7b

4. 下载模型:

①返回命令提示符或终端,将刚刚复制的命令【ollama run deepseek-r1:7b】粘贴到命令提示符或终端中,并按回车键。

②等待模型下载······

③当出现“success”,表示下载完成。

到这一步,其实我们就可以使用了,但是因为DOS界面,不习惯,这就需要一个可视化工具,实现对话。

第三步:安装并配置Chatbox AI

Chatbox AI是一个可视化工具,可以帮助你与DeepSeek模型进行交互。

1.访问Chatbox AI官网:

①访问Chatbox AI官网。

②网页上会显示Chatbox AI的下载页面。

2.下载并安装Chatbox AI:

①点击页面上的“下载”按钮,下载Chatbox AI应用程序。

②双击下载的安装包文件,按照提示完成安装。

③安装过程中会弹出安装向导,点击“下一步”并接受许可协议,选择安装路径等。

3. 配置Chatbox AI:

①打开Chatbox AI应用程序。

②在设置中选择“Ollama API”。

③选择你刚刚下载的DeepSeek模型。

4.测试AI助手:

①在Chatbox AI的聊天窗口中输入问题,我就问他“什么是实际施工人?”

他洋洋洒洒说了一堆,这表示我的电脑已经部署成功了。

②如果看到AI助手的回答,说明配置成功。

三、搭建个人知识库

律师工作,对数据资料的保密性要求很高,搭建一个私有知识库,通过AI助手就能够根据你自己的资料回答问题。

实现的方式就是通过一个插件。

1.安装Page Assist插件:

①打开Chrome浏览器,访问Chrome网上应用店。

②搜索“Page Assist”,找到插件并点击“添加到Chrome”。

2. 配置Page Assist插件:

①打开Page Assist插件,选择你本地搭建的DeepSeek模型。

3. 搭建知识库:

①点击插件中的“管理知识”选项,添加本地知识库。

②填写知识库的标题,例如“我的法律资料库”,然后上传相关的文件。

③点击“提交”按钮,等待状态显示为“已完成”。

4. 测试知识库:

①新建一个聊天窗口,在聊天窗口右下角点击“知识”,选择刚才搭建的知识库名称。

②输入一个和知识库内容相关的问题,看看AI是否能根据知识库给出准确回答。

四、总结

通过以上三个简单的步骤,你就可以在自己的电脑上搭建一个安全、私有的DeepSeek AI助手,并且可以根据需要搭建个人知识库。

希望这些步骤对你有所帮助,如果有任何问题,欢迎随时咨询交流。

来源:建筑房地产法律圈

相关推荐