DeepSeek-R1本地部署的极简教程
环境
本人在本地部署了两个版本的deepseek-r1，分别为8b和14b版本。其中8b可以流畅推理，14b版本推理速度会慢一点，平均等待时间10-20秒。
环境为
CPU：amd 3100
GPU：RTX 3060 8G
MEMORY：16G
SYSTEM: win11
部署
1.安装 ollama
首先进入 ollama 官网 https://ollama.com/
然后点击download，选择本地电脑对应的版本
下载后进行安装。
注意：安装时默认使用C盘，确保你的C盘有足够多的空间可以安装 ollama 及后续的大模型，建议C盘空间 ≥ 12G
安装后在电脑开始页面启动 ollama，然后查看任务栏，有 ollama 图标意味着 ollama已经启动。
我们回到 ollama 官网，在搜索栏搜索 deepseek-r1
选择适合自己的版本，注意右侧的GB代表磁盘容量，确保C盘有足够的磁盘容量。
如果你的电脑和我配置差不多可以尝试8b，
拥有12G以上的显存使用14b版本应该可以流畅运行，
更多的参数量，例如32b建议使用3090或4090。
2.部署 deepseek-r1
使用下面命令进行安装，8b代表选择8b的版本
ollama run deepseek-r1:8b
随后打开任务管理器（记得用管理员），然后输入命令进行部署，本地会下载对应的模型。
出现下面情况代表安装完成，当然可能会出现超时问题，重新运行上面部署代码即可
然后使用/?或/help进行测试。
最后展示下效果
到此这篇关于DeepSeek-R1本地部署指南极简版的文章就介绍到这了,更多相关DeepSeek-R1本地部署内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
在CentOS7中使用命令行直接安装Vscode时，打开Vscode出现界面卡死、无响应情况，如何处理这个问题呢，今天小编给大家带来了Centos7中Vscode无响应的问题及解决方法，感兴趣的朋友一起看看吧2021-07-07
字符编码问题, 对于一个在伟大天朝的程序员来说, 几乎不可能遇不到, 从我刚开始接触Coding到现在, 乱码, 编码转换问题就好像一直没有停息过.2009-09-09
这篇文章主要介绍了vscode添加GIT和SVN的方法示例，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-04-04
win10环境安装kettle与linux环境安装kettle的详细过程
kettle是一款免费开源的、可视化的、国际上比较流行的、功能强大的ETL必备工具，在ETL这一方面做的还不错，下面介绍一下基于win10操作系统安装kettle和linux操作系统安装kettle的详细过程，感兴趣的朋友跟随小编一起看看吧2022-11-11
大数据HelloWorld-Flink实现WordCount
这篇文章主要介绍了大数据HelloWorld-Flink实现WordCount的相关知识，非常不错，具有一定的参考借鉴价值,需要的朋友可以参考下2019-08-08
本文主要介绍了使用内网穿透工具Ngrok代理本地服务，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-03-03
IntelliJ IDEA 2020.1配置svn的图文教程
这篇文章主要介绍了IntelliJ IDEA 2020.1配置svn的图文教程,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-11-11
如果您不熟悉Git命令，推荐使用Windows TortoiseGit客户端的可视化操作界面，如果您熟悉常用的Git命令，Git Bash将会是您Windows上更加简洁、高效的客户端，其中运行的是Linux命令2022-04-04
这篇文章主要为大家介绍了一次百万行WPF项目代码的重构记录，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2022-05-05
这篇文章介绍了Git中tag标签的使用教程，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-04-04
最新评论