手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库指南

天极网   发布时间:2025-02-21 14:17:26   作者:天极网   我要评论
关于 Deepseek,这段时间也传来不少新闻,本文将介绍如何在安卓手机和桌面设备上分别部署本地运行的 Deepseek R1 模型,并搭建知识库,详细如下文

桌面端 Deepseek 建立知识库

在手机端部署本地 Deepseek 大模型相对复杂,但只要按照步骤操作,实际上可以很快完成部署。与此相比,桌面端的 Deepseek 部署要简单得多。桌面端不需要建立额外的环境,Windows 和 Mac 端的步骤大致相同,因此本文将重点介绍如何通过本地 Deepseek R1 模型在 Mac 端搭建自己的知识库。

下载 Ollama 模型

首先,访问 Ollama 官网,选择并下载适合 Mac 系统的版本。下载完成后,按照提示完成安装,安装后将解压得到的 Ollama 程序拖动到“应用程序”中。

接着,打开 Mac 系统的“终端”应用(Windows 用户则打开 CMD),在终端中输入需要下载的 Ollama 模型对应的代码。具体的代码可以参考 Ollama 官网提供的说明。如果电脑配置较强,可以选择下载较大的模型版本。

需要注意的是,如果在下载过程中发现下载速度变慢,可以关闭当前的“终端”窗口,再重新打开并输入相同的指令。这样可以恢复更高的下载速度,并且下载进度会被保留,不会丢失。

搭建本地知识库

完成 Ollama 模型的下载后,接下来是搭建知识库。首先,访问 “AnythingLLM” 官网,根据操作系统下载并安装对应的版本。

安装完成后,打开程序,选择 “Ollama” 作为模型提供方,并选择 “8b (依据电脑配置)模型”。进入下一步时,跳过邮箱填写界面,直接创建一个新的工作区(Workspace)。

创建工作区后,进入到对话界面。接下来,点击工作区 “Test001”的设置按钮,进入“聊天设置”页面。在聊天提示框中对 AI 助手进行一些基本设定,以便模型能够更快速、更精准地回答用户的问题。同时,可以设置回答语言为中文,并保存这些设置。

接下来,需要上传并嵌入知识库文件。小编通过 AI 创建了一家虚拟的游戏公司,并将公司简介整理成一个 Word 文档。在准备好文件后,返回“Test001”工作区,点击右侧的上传按钮,将文件上传至“My Documents”。选中该文件后,点击 “Move to Workspace”,然后选择 “Saved and Embed” 以保存文件,最后执行“Pin to Workspace”操作。这些操作都会有提示,确保每个步骤都正确完成。

测试和提问

知识库搭建完成后,回到对话框,在工作区“Test001”中选择 “New Thread” 创建一个新的对话框。此时,可以开始向模型提问与知识库相关的问题。大模型将根据文档内容做出准确回答,确保知识库的内容能够被有效利用。

(知识库内容)

(AI 依据数据库的核心人员回答)

(AI 依据数据库的回答)

总结

以上是手机端部署本地 Deepseek 的教程以及通过 Mac 端部署 Deepseek R1 大模型并建立本地知识库的完整教程。从下载模型、搭建知识库到最后的测试与提问,每一步都很关键,只要按照步骤操作,就能够顺利完成整个过程。希望这篇教程能够帮助大家顺利搭建属于自己的本地知识库,提升使用 AI 模型的效率和体验。

相关文章

最新评论