SpringBoot配置Ollama实现本地部署DeepSeek
前言
随着人工智能技术的迅猛发展，越来越多的开发者希望在本地环境中部署和调用 AI 模型，以满足特定的业务需求。本文将详细介绍如何在本地环境中使用 Ollama 配置 DeepSeek 模型，并在 IntelliJ IDEA 中创建一个 Spring Boot 项目来调用该模型。通过这些步骤，您将能够在本地环境中高效地运行和测试 AI 模型，提升开发效率。
详细步骤
一、本地配置DeepSeek
1.安装Ollama
Ollama 是一个开源平台，旨在简化大型语言模型的本地部署和管理。您可以从 Ollama官网下载适用于 Windows、Linux 或 macOS 的安装包。
安装成功后可以使用win+R并输入cmd打开终端，接着输入ollama检查是否安装成功，如果有输出对应信息则说明安装成功了
2.下载对应DeepSeek模型并运行
首先选中想要配置的DeepSeek版本并复制右侧指令
将指令复制到终端并进行下载对应版本的DeepSeek，下载完成之后到这个界面，就是下载成功了，可以输入一些信息进行测试
二、SpringBoot项目调用本地DeepSeek
1.创建springboot项目
具体操作如下：
- 打开 IntelliJ IDEA，选择 "New Project"。
- 选择 "Spring Initializr" 作为项目类型。
- 填写项目的基本信息，如 Group、Artifact 等。
- 在 "Dependencies" 中添加所需的依赖，例如 "Spring Web"。
- 点击 "Create" 创建项目。
这里我添加了Web和Ollama的依赖，创建成功界面如下
2.添加deepseek对应配置信息
在application.properties中添加下面配置信息
spring.ai.ollama.chat.options.model=deepseek-r1:1.5b spring.ai.ollama.base-url=http://127.0.0.1:11434 spring.ai.ollama.chat.enabled=true server.port=9099
3.编码调用deepseek
接着创建简单controller类和service实现类，结构如图：
对应代码如下：
controller:
@RestController
public class testController {
@Autowired
private DeepSeekTestService deepSeekTestService;
@RequestMapping("/ask1")
public String speak(@RequestParam String msg){
return deepSeekTestService.getResponse(msg);
}
}service接口：
public interface DeepSeekTestService {
String getResponse(String message);
}
service实现类
@Service
public class DeepSeekServiceImpl implements DeepSeekTestService {
private final OllamaChatModel ollamaChatModel;
public DeepSeekServiceImpl(OllamaChatModel ollamaChatModel) {
this.ollamaChatModel = ollamaChatModel;
}
@Override
public String getResponse(String message) {
String response = ollamaChatModel.call(message);
return response;
}
}4.测试
启动项目，在浏览器的url路径中输入对应信息进行测试,这样一个简单的springboot对接deepseek项目就完成了！
到此这篇关于SpringBoot配置Ollama实现本地部署DeepSeek的文章就介绍到这了,更多相关SpringBoot 本地部署DeepSeek内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
在 Java 中,内存管理是一个重要的话题,尤其是在涉及到缓存的实现时,如果缓存项不再被使用,我们希望它们能被自动清理,而不必手动删除,WeakHashMap 就是 Java 提供的一种用于缓存和内存管理的工具,本文将深入探讨如何利用 WeakHashMap 来实现缓存自动清理2025-01-01
这篇文章主要介绍了16进制显示字节流的技巧分享,需要的朋友可以参考下2014-02-02
以下是对java中的hashtable进行了详细的分析介绍。需要的朋友可以过来参考下2013-08-08
在Spring Boot项目中整合ZXing库来生成二维码是一个常见的需求,zxing是一个功能强大的开源Java库,专门用于二维码的生成与解析,它支持Android、iOS、Java等多个平台,本文小编将给大家分享SpringBoot中生成二维码的案例,需要的朋友可以参考下2024-08-08
这篇文章主要介绍了教你怎么通过IDEA设置堆内存空间,文中有非常详细的代码示例,对正在使用IDEA的小伙伴们很有帮助哟,需要的朋友可以参考下2021-05-05
session的工作原理和cookie非常类似,在cookie中存放一个sessionID,真实的数据存放在服务器端,客户端每次发送请求的时候带上sessionID,服务端根据sessionID进行数据的响应2022-11-11
解决BeanUtils.copyProperties无法成功封装的问题
这篇文章主要介绍了解决BeanUtils.copyProperties无法成功封装的问题，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2021-06-06
SpringBoot项目改为SpringCloud项目使用nacos作为注册中心的方法
本文主要介绍了SpringBoot项目改为SpringCloud项目使用nacos作为注册中心，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-04-04
Springboot使用RestTemplate调用第三方接口的操作代码
这篇文章主要介绍了Springboot使用RestTemplate调用第三方接口,我只演示了最常使用的请求方式get、post的简单使用方法，当然RestTemplate的功能还有很多，感兴趣的朋友可以参考RestTemplate源码2022-12-12
这篇文章主要介绍了Java利用AlphaComposite类合并图像，帮助大家更好的利用Java处理图像，感兴趣的朋友可以了解下2020-10-10
最新评论