摘要:上篇文章采用AnythingLLM来继承DeepSeek-R1模型来构建本地知识库,但是AnythingLLM有个问题,我的Mac一直装不了,采用虚拟机装AnythingLLM,宿主主机mac运行DeepSeek-R1模型,挺麻烦的,所以就找下是否有更好的集成
上篇文章采用AnythingLLM来继承DeepSeek-R1模型来构建本地知识库,但是AnythingLLM有个问题,我的Mac一直装不了,采用虚拟机装AnythingLLM,宿主主机mac运行DeepSeek-R1模型,挺麻烦的,所以就找下是否有更好的集成工具,这就是本文要介绍的Cherry Studio工具。
Cherry Studio是一款开源的AI集成工具,可以支持AI Web服务和本地模型,而且是跨平台,Mac和windows、linux下都可以使用。 官方介绍如下:
安装比较简单,到官网https://cherry-ai.com/ 下载合适的版本,Mac要区分是intel还是Apple的芯片,分别要下载不同的版本。
点击左下角配置,进入配置界面,如下图。
接着按照下图的步走操作:
首先选择“模型服务”再接着选择“ollma”再点击右下角的"管理" 按钮;本地模型配置
进入管理界面后,如果后台通过ollama run 运行了相关模型,则可以看到的,如下图,点击加号,添加DeepSeek-r1:latest 和嵌入式模型nomic-embed-text模型;
我们不光可以添加单个文件,还可以添加目录:
注意选择目录的话构建速度还是比较慢的,后面的蓝色圆点变成绿色对号,即入到嵌入式数据库了。
点击搜索知识库,即可以搜索到我们上传文件的内容(中文会乱码),会按照匹配度来显示匹配到的chunk内容。
按照下图:
点击助手按钮;选择"默认助手",选择本地模型;在对话框下面的倒数第四个按钮里面的知识库,可以看到我们新建的test知识库;然后就可以见到的交互了。Cherry Studio 用起来,整体来说比AnythingLLM要简洁好用的多,支持各种在线小助手、支持AI的在线API接入,强烈推荐大家用起来。
来源:码农世界