如何本地部署DeepSeek

 更新时间:2025年02月04日 09:23:39   作者:ASER_1989  
这篇文章介绍了如何在本地部署DeepSeek大型语言模型,并分享了遇到的问题和解决方法,感兴趣的朋友一起看看吧

没想到新年最热闹的地方之一会是互联网,刷爆朋友圈的除了新年祝福还有DeepSeek。揣着一颗好奇心试了试,竟有一种发现新大路的感觉。估计是围观的人太多,在线的版本有时候会出现连不上的情况,好奇心驱使之下想尝试本地部署。

方案

本地化方案非常简单:Ollama + DeepSeek-R1 + Enchanted LLM 。

Ollama

Ollama 是一个用于在本地运行大型语言模型(LLMs)的工具,支持多种开源模型,如 Llama 2、Code Llama、Mistral 等。它简化了模型下载、配置和运行的过程,用户可以通过命令行轻松管理模型。使用起来颇有docker的感觉,pull、run、ps...。安装也简单,选择对于系统,下载安装就妥了。

DeepSeek-R1

在Ollama的网站上(https://ollama.com/)Models页面当前排名第一的就是DeepSeek-R1,点进去选择对应的版本,右边会展示对应的ollama 命令,复制命令粘贴到命令行工具中执行即可。如图:

这种高端操作一帆风顺貌似不太合理,所以我也遇到点问题。不同的版本大小差异会比较大,第一个上手的是70b这个版本,总大小43GB。en~下了两个小时左右,终于好了,正准备见证奇迹的时候,ollama抛出这样一个提示:ollama Error: Post "http://127.0.0.1:11434/api/show": read tcp 127.0.0.1:57953->127.0.0.1:11434: read: connection reset by peer 。后来问了DeepSeek,它思考了半天,它告诉我The server is busy. Please try again later. 最后它让我检查服务状态、端口占用、防火墙、Ollama版本......一顿操作之后突然想起了ollama ps这个命令,一看傻眼了,啥都没有。突然明白是模型没运行起来,估计是电脑配置不够,70b这个版本高攀不起。于是开始尝试1.5b这个版本,一切顺利,可以通过控制台进行对话了。让它用React实现一个tab组件,好家伙给了我十几个方案,果断换下一个版本。于是选择了32b这个版本,20GB竟然成功跑起来了。

Enchanted

控制台对话终究没有UI方便,在Ollama README上列举了大量UI工具,如Open WebUI、Enchanted、Hollama、Lollms-Webui.... 因为本地是MacOs,这里选择的是EnchantedEnchanted是MacOs下的一个App,也支持IOS和Vision Pro,在AppStore上下载安装即可。Enchanted配置非常简单,填写本地服务地址(Ollama本地服务是: localhost:11434)选择对应模型版本即可。至此本地化就完成了。最后附上纪念照:

到此这篇关于如何本地部署DeepSeek的文章就介绍到这了,更多相关本地部署DeepSeek内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 面试的时候该如何自我介绍详解

    面试的时候该如何自我介绍详解

    面试中自我介绍、项目是我们的重头戏,在面试二面、三面中都起到了至关重要的的作用,这篇文章主要介绍了面试的时候该如何自我介绍的相关资料,需要的朋友可以参考下
    2008-06-06
  • Spark在Windows下的环境搭建方法

    Spark在Windows下的环境搭建方法

    这篇文章主要介绍了Spark在Windows下的环境搭建方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-06-06
  • hadoop二次排序的原理和实现方法

    hadoop二次排序的原理和实现方法

    这篇文章主要介绍了hadoop二次排序的原理和实现,本文通过实例代码给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-06-06
  • Grafana 系列之统一展示Prometheus数据源

    Grafana 系列之统一展示Prometheus数据源

    这篇文章主要为大家介绍了Grafana 系列之统一展示Prometheus数据源配置详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2023-05-05
  • Hadoop 分布式存储系统 HDFS的实例详解

    Hadoop 分布式存储系统 HDFS的实例详解

    HDFS是Hadoop Distribute File System 的简称,也就是Hadoop的一个分布式文件系统。这篇文章主要介绍了Hadoop 分布式存储系统 HDFS,需要的朋友可以参考下
    2019-06-06
  • 深度卷积神经网络各种改进结构块汇总

    深度卷积神经网络各种改进结构块汇总

    这篇文章主要为大家介绍了深度卷积神经网络各种改进结构块汇总,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2022-05-05
  • 都2019年了,还问http中GET和POST的区别

    都2019年了,还问http中GET和POST的区别

    最近看了一些同学的面经,发现无论什么技术岗位,还是会问到 get 和 post 的区别,而搜索出来的答案并不能让我们装得一手好逼,那就让我们从 HTTP 报文的角度来撸一波,从而搞明白他们的区别
    2019-02-02
  • 最适合人工智能开发的5种编程语言 附人工智能入门书籍

    最适合人工智能开发的5种编程语言 附人工智能入门书籍

    这篇文章主要为大家详细介绍了最适合人工智能开发的5种编程语言,并为大家推荐人工智能入门书籍,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-11-11
  • 简单实用的aixcoder智能编程助手开发插件推荐

    简单实用的aixcoder智能编程助手开发插件推荐

    本文给大家分享一款简单实用的aixcoder智能编程助手开发插件推荐 ,需要的朋友可以参考下
    2019-06-06
  • Base64 编码介绍、Base64编码转换原理与算法

    Base64 编码介绍、Base64编码转换原理与算法

    Base64编码,是我们程序开发中经常使用到的编码方法。它是一种基于用64个可打印字符来表示二进制数据的表示方法,需要的朋友可以参考下
    2016-06-06

最新评论