如何实现deepseek本地部署?详细教学deepseek本地环境搭建及设置

脚本之家   发布时间:2025-02-04 21:50:52   作者:老张   我要评论
本文将详细介绍deepseek本地部署的完整步骤,包括从环境配置到软件安装的全程指南,我们将细节和注意点做了介绍,确保你能够在短时间内完成高效、安全的配置,快速启动Deepseek服务

DeepSeek这款工具最近特别火,很多人都在讨论它,为啥呢?因为它确实挺好用的,尤其是在处理文字和理解复杂任务时,表现得很聪明。相比大家熟悉的ChatGPT,DeepSeek在某些方面更厉害,比如它能更好地理解上下文,回答得更精准,而且对资源的消耗也更少,用起来更顺手。更重要的是,DeepSeek支持本地部署,这意味着你可以把它装在自己的电脑或服务器上,既保护了数据隐私,又能高效运行。接下来,我就给大家详细讲讲怎么在本地部署DeepSeek,让你也能轻松用上这个强大的工具!

注意:本教程脚本之家的小编会一直保持更新,后期更多可用deepseek开源模型也会一直提供

根据小编的亲测,目前DeepSeek本地部署比较完成的有2种方法,都是需要搭配工具来加载DeepSeek-R1模型(性能直接对标OpenAI O1正式版

本次给大家介绍的主要以下2种方法(小编强烈推荐第一种)

1、LM studio+Deepseek-R1

2、Ollama+Deepseek-R1+Chatbox+Hugging Face

两种DeepSeek本地部署的优缺点对比

2种方法最后都是为了加载DeepSeek-R1这个开源模型,而且最终我们需要得到一个友好的界面化使用,在此小编推荐的是第一种,因为第二种方法Ollama的客户端经常出现无法下载的情况,Ollama的设置和加载方式以命令行的方式包括后面的界面化加载也相对繁琐,小白用户会感觉有些吃力。最重要的一点,暂时Ollama只能安装在C盘,这个大家一定要注意,因为后面加载以及模型工具都非常大,如果你的C盘没有那么多,一定要注意了!

LM studio工具直接提供了界面化,而且支持简体中文,直接进行简单设置,加载R1就可以直接本地话使用了。

在此,小编先给大家带来第一种最简单直接的方法,后面更多的方法,会在后续慢慢给大家展开讲解!

DeepSeek本地部署方法

下载安装客户端

1、我们首先下载获取LM studio客户端,这里小编已经提前给大家下载好了:( LM studio最新客户端 ),大家也可以直接去LM studio的官方下载:https://lmstudio.ai/

2、下载到本地后打开安装程序,这里我们选择“仅为我安装”

3、在目标文件夹我们选择空间充足的盘,这样后面的其他模型就都可以放一起,方便管理。注意:这里选择的文件夹必须只能是英文!

4、点击下一步安装直到安装完成,然后我们就会在桌面上看到LM studio的ICO图标

到此为止,我们的客户端就下载并安装完毕了

设置LM studio

我们打开客户端后,需要点击右下角的设置,里面把语言选择成为“简体中文”

下载模型

接下来我们就需要下载Deepseek-R1模型,无论我们是第一种方法还是第二种,这个步骤都是必须的,基本上都会在“魔塔社区”或者“模型镜像”2个网站下载,由于模型很多,小编为了大家能够最快速的本地部署,在这里直接给大家提供了最新的Deepseek-R1 GGUF下载文件,并且提供了低显存版本和高显存版本,大家可以根据自己的显卡来选择。

DeepSeek-R1-Distill-Qwen-7B-Q2_K.gguf(适合3G及以上显存)

DeepSeek-R1-Distill-Qwen-7B-Q8_0.gguf(适合8G及以上显存)

模型存放及部署设置

1、当我们下载好模型文件后,需要注意,不能随便存放,因为需要让安装好的LM Studio来加载,而它对文件加载是有规定的,在客户端里选择”模型目录“,然后我们选择”更改“

2、这里我们把文件举例放在D盘,新建一个文件夹,取名:models000,注意,这里的文件夹也不能有任何符号及中文

3、我们在models000下再建立一个文件夹001,在001里继续建立一个文件夹 002,这样002就处于三级目录下了,我们把刚才下载的R1模型文件,复制在这个002文件夹内就可以了

4、然后我们回到刚才LM studio的模型目录里,就直接可以看到刚才已经复制的模型了

5、点击聊天界面,再点击上面的模型选择按钮

6、选择刚才的模型后,点击加载等待完成即可,注意:这里可以选择加一个“快速注意力”

7、到此,Deepseek的本地化部署和使用就完成了,直接就可以使用Deepseek-R1版本了,后面的更多版本,脚本之家小编会保持更新,如果感觉对你有用,就收藏本页面吧。

到此,一种最简单的deepseek本地部署方法就完成了,感谢大家的阅读,小编会在后续中陆续增加更多部署方法,更多deepseek模型也会后续更新最新版本。 

相关文章

最新评论