DeepSeek-R1 与 AnythingLLM 安装部署本地知识库详细教程

  发布时间:2025-02-20 16:17:36   作者:佚名   我要评论
DeepSeek R1是目前最火的大模型,近来有很多朋友问怎么搭建DeepSeek 本地知识库,在这里分享一种使用DeepSeek + AnythingLLM快速搭建本地知识库的方法,完全本地化,懒人必备神器

DeepSeek R1是目前最火的大模型,近来有很多朋友问怎么搭建DeepSeek 本地知识库?今天给大家推荐一个“懒人神器”——AnythingLLM。这是一个全栈应用程序,允许您将任何文档、资源或内容转换为 LLM(大型语言模型)在聊天时可以使用的上下文。使用离线部署的DeepSeek R1,基于AnythingLLM在本地搭建私有知识库,简单又好用,完全本地化。下面就整理了AnythingLLM+DeepSeek安装本地部署教程,仅供参考!

详细安装教程

1、安装Ollama

打开Ollama官方网址:https://ollama.com/download,然后选择当前系统的版本,下载后直接安装即可。网上此教程众多这里就不赘述了。

打开命令行界面,在命令行界面输入

ollama --version

出现如下显示说明Ollama安装成功

2、安装DeepSeek

在命令行界面输入:ollama run deepseek-r1:1.5b

可以快速安装deepseek-r1:1.5b模型,安装成功后如图所示

3、安装AnythingLLM

下载AnythingLLM安装包,然后双击AnythingLLMDesktop.exe进行安装即可

安装完成后退出程序

打开软件主界面,首次启动会出现Get started,点击即可

接着直接点击右箭头,一直点击即可

 起一个工作区名称然后点击右箭头进入工作界面

点击左下角的小扳手,进入设置

依次选择“人工智能提供商”-“LLM首选项”,然后选择Ollama,配置模型地址http://127.0.0.1:11434

选择DeepSeek-R1,token长度4096,然后点击Save changes即可

点击刚刚创建的工作区,选择本地文档或者网页链接

然后点击Save and Embed

出现Workspace updated successfully就表示知识库配置已经完成

现在你可以开始你的任意提问了,LLM会结合自己的知识,以及文档的内容,生成你提问的相应回答。

进入界面,点击进行测试基础的模型对话

如果想确认AI回答的知识来源,可以在回答底部点击Show Citations查看引用的知识

修改中文语言,进入设置,选择Chinese即可

以上就是小编整理的关于使用DeepSeek-R1 与 AnythingLLM 搭建本地知识库详细教程,仅供参考,希望对大家有所帮助!欢迎继续关注脚本之家相关软件教程!

相关文章

最新评论