SpringBoot使用Kafka来优化接口请求的并发方式

更新时间：2024年07月30日 14:58:57 作者：培根芝士

这篇文章主要介绍了SpringBoot使用Kafka来优化接口请求的并发方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教

安装Apache Kafka

编写docker-compose.yml

version: '3'
services:
  zookeeper:
    image: wurstmeister/zookeeper
    container_name: zookeeper
    ports:
      - "2181:2181"
  kafka:
    image: wurstmeister/kafka
    container_name: kafka
    ports:
      - "9092:9092"
    environment:
      KAFKA_ADVERTISED_HOST_NAME: localhost
      KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181
    volumes:
      - /var/run/docker.sock:/var/run/docker.sock

使用docker compose启动容器

docker-compose up -d

添加依赖

首先，需要在pom.xml中添加Spring Kafka的依赖。

<!-- Spring Kafka -->
<dependency>
    <groupId>org.springframework.kafka</groupId>
    <artifactId>spring-kafka</artifactId>
</dependency>

配置Kafka

在application.properties文件中配置Kafka的属性。

# application.properties  
spring.kafka.bootstrap-servers=localhost:9092  
spring.kafka.consumer.group-id=myGroup  
spring.kafka.consumer.auto-offset-reset=earliest  
spring.kafka.consumer.key-deserializer=org.apache.kafka.common.serialization.StringDeserializer  
spring.kafka.consumer.value-deserializer=org.apache.kafka.common.serialization.StringDeserializer  
spring.kafka.producer.key-serializer=org.apache.kafka.common.serialization.StringSerializer  
spring.kafka.producer.value-serializer=org.apache.kafka.common.serialization.StringSerializer

Kafka生产者服务

创建一个服务类来发送消息到Kafka。

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.kafka.core.KafkaTemplate;
import org.springframework.stereotype.Service;

@Service
public class KafkaProducerService {

    @Autowired
    private KafkaTemplate<String, String> kafkaTemplate;

    public void sendMessage(String topic, String key, String value) {
        // 异步发送消息
        kafkaTemplate.send(topic, key, value).addCallback(success -> {
            System.out.println("Message sent successfully: " + value);
        }, failure -> {
            System.err.println("Failed to send message: " + value);
        });
    }
}

kafkaTemplate.send 方法是 Spring Kafka 提供的一个非常灵活的方法，它允许以不同的方式发送消息到 Kafka 集群。

当调用 kafkaTemplate.send 方法时，可以指定要发送到的 topic、key 和 value，但 key 是可选的。

未指定 key：当不指定 key 时，Kafka 会根据配置的分区器（默认是 DefaultPartitioner）来决定消息应该被发送到哪个分区。在没有 key 的情况下，分区器可能会采用轮询（round-robin）或其他算法来随机选择一个分区进行消息发送。这种方式下，消息的分布可能会比较均匀，但无法控制具有相同逻辑标识的消息被发送到同一个分区。
指定 key：当指定 key 时，Kafka 会根据 key 的哈希值来计算分区号，确保具有相同 key 的消息被发送到同一个分区。这种方式有助于保持消息的顺序性，因为 Kafka 保证同一个分区内的消息是有序的。

Kafka消费者服务

创建一个监听器来接收Kafka中的消息。

import org.springframework.kafka.annotation.KafkaListener;
import org.springframework.stereotype.Component;

@Component
public class KafkaConsumerService {

    @KafkaListener(topics = "your-topic-name", groupId = "myGroup")
    public void listen(String message) {
        // 处理消息（可能是耗时的操作）
        System.out.println("Received message in group 'myGroup': " + message);
        // 处理耗时操作
        ...
    }
}

在使用Kafka消费者时，Kafka本身已经设计为支持并发消费，即可以通过配置多个消费者实例（partitions的数量通常决定了并行度的一个上限，因为Kafka会尽量将不同的partitions分配给不同的消费者以提高并行度）来实现并行处理。

但是，如果想要在消费者内部进一步提高处理消息的并发度，可以结合使用Kafka消费者和Java的线程池来实现。

@Service  
public class KafkaConsumerService {  
  
    @KafkaListener(topics = "your-topic-name", groupId = "myGroup")  
    public void listen(String message) {  
        // 将消息发送到线程池处理  
        executorService.submit(() -> processMessage(message));  
    }  
  
    private void processMessage(String message) {  
        // 处理消息的逻辑  
        System.out.println("Processing message: " + message);  
        // 模拟耗时操作  
        try {  
            Thread.sleep(1000);  
        } catch (InterruptedException e) {  
            Thread.currentThread().interrupt();  
        }  
    }  
  
    // 线程池配置  
    private ExecutorService executorService = Executors.newFixedThreadPool(30);  
  
    // 确保优雅关闭线程池  
    @PreDestroy  
    public void shutdown() {  
        executorService.shutdown();  
        try {  
            if (!executorService.awaitTermination(60, TimeUnit.SECONDS)) {  
                executorService.shutdownNow();  
            }  
        } catch (InterruptedException ex) {  
            executorService.shutdownNow();  
            Thread.currentThread().interrupt();  
        }  
    }  
}

控制器

在控制器中调用Kafka生产者服务来发送消息，并立即响应客户端。

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
  
@RestController
public class MyController {

    @Autowired  
    private KafkaProducerService kafkaProducerService;

    @PostMapping("/send")
    public String sendMessage(@RequestParam String message) {
        // 发送消息到Kafka，并立即返回响应
        kafkaProducerService.sendMessage("your-topic-name", "key1", message);
        return "Message sent to Kafka";
    }
}

总结

以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

利用Springboot实现Jwt认证的示例代码
这篇文章主要介绍了利用Springboot实现Jwt认证的示例代码，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2020-12-12
java如何将int数组转化为Integer数组
这篇文章主要介绍了java如何将int数组转化为Integer数组，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
2022-11-11
IDEA2020.1常用配置说明
这篇文章主要介绍了IDEA2020.1常用配置说明,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2020-06-06
浅谈Java中Collections.sort对List排序的两种方法
本文介绍了Java中Collections.sort对List排序的两种方法以及Comparable 与Comparator区别，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2021-12-12
Mybatis自定义拦截器和插件开发详解
这篇文章主要给大家介绍了关于Mybatis自定义拦截器和插件开发的相关资料，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2021-04-04
JAVA提高第九篇集合体系
这篇文章主要为大家详细介绍了JAVA提高第九篇集合体系的相关资料，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2017-10-10
详解Spring MVC/Boot 统一异常处理最佳实践
在 Web 开发中, 我们经常会需要处理各种异常，这篇文章主要介绍了详解Spring MVC/Boot 统一异常处理最佳实践，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2019-01-01
一文秒懂java到底是值传递还是引用传递
这篇文章主要介绍了java到底是值传递还是引用传递的相关知识，本文通过几个例子给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
2020-06-06
SpringBoot项目发送钉钉消息功能实现
在工作中的一些告警需要发送钉钉通知,有的是发给个人,有的要发到群里,这时项目就需要接入钉钉,实现发消息的功能,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧
2024-02-02
Java线程池流程编排运用实战源码
这篇文章主要介绍了Java线程池流程编排运用实战源码，就在流程引擎的基础上运用 ThreadPoolExecutor，使用线程池实现 SpringBean 的异步执行
2022-03-03