Kafka调试技巧及心得分享

 更新时间:2026年02月12日 09:09:37   作者:程序员Forlan  
Kafka消费组机制确保每个消息只被一个消费者消费,新增机器时根据策略分配分区,本地调试时,修改代码后可能需要重新测试和造消息,但可以通过配置参数控制消费偏移量,线上环境调试可以通过接口拉取处理

基础理念

对于我们有a,b,c,3台机器,那么我们的消息会被消费3次?

  • 可能会,也可能不会,这取决于你的配置和策略。
  • 消费者组机制:Kafka 使用消费组(Consumer Group)来确保每个消息只会被每个消费者组中的一个消费者消费一次。
  • 分区分配:Kafka 主题可以分为多个分区(Partitions),每个分区只能由一个消费者组中的一个消费者消费。

如果新增1台机器,那么他的偏移量从0开始?

在kafka中,消费组都会维护自己的偏移量(offset),以此来记录消费的消息位置,而当新增1台机器时,会根据分区分配策略,比如:范围分配、轮询分配,这就有2种情况,可能加入旧分区,也可能加入新分区,具体可以配置下策略参数auto.offset.reset,对应的值如下:

  • earliest: automatically reset the offset to the earliest offset
  • latest: automatically reset the offset to the latest offset
  • none: throw exception to the consumer if no previous offset is found for the consumer’s group
  • anything else: throw exception to the consumer.

本地调试

所以,当我们在调试kafka消费逻辑的时候,可能由于消费逻辑写的不对,改完代码需要重新测,重新去造1条消息?还是你会怎么去做,了解了前面的原理,我们改消费组是不可行的,他获取的是最新的偏移量,无法实现复用之前造的某条数据,特别是我们有不同逻辑,把每种类型的消息都重新推一波,这不仅麻烦,而且也容易出错,是否可以直接复用之前的消息,准确处理?

我们可以先了解下@KafkaListener里面的一些配置参数,具体如下:

@KafkaListener(topicPartitions = {@TopicPartition(topic = "yourTopic", partitionOffsets = {@PartitionOffset(partition = "指定分区", initialOffset = "初始偏移量")})})
public void forlanConsumer(ConsumerRecord<String, String> record) {
	String messageStr = record.value();
	log.info(“测试触达记录消费:offset = {}, res = {}”,record.offset(), messageStr);
}

上面只是指定了我们从什么偏移量开始消费,如果要限制范围,可以在代码里面加限制

@KafkaListener(topicPartitions = {@TopicPartition(topic = "yourTopic", partitionOffsets = {@PartitionOffset(partition = "指定分区", initialOffset = "初始偏移量")})})
public void forlanConsumer(ConsumerRecord<String, String> record) {
	if (record.offset() > 结束偏移量) return;
	String messageStr = record.value();
	log.info(“测试触达记录消费:offset = {}, res = {}”,record.offset(), messageStr);
}

测试或正式环境调试

上面只适合本地场景,如果是线上环境,我们本地一般是没有权限连接监听的,那么可以怎么做?其实也能做,只不过需要通过接口去拉取处理

@Autowired
private KafkaConfig kafkaConfig;

public void reconsumeMessage(String topic, int partition, long offset) {
		ConsumerFactory<Integer, String> consumerFactory = kafkaConfig.consumerFactory();
		Map<String, Object> configurationProperties = consumerFactory.getConfigurationProperties();

		Map<String, Object> customProps = new HashMap<>();
		customProps.put(ConsumerConfig.GROUP_ID_CONFIG, "reconsume-temp-group-" + UUID.randomUUID());
		customProps.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, "earliest");// 防止 offset 不存在时报错
		customProps.put(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG, false);
		customProps.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, "1");// 控制每次 poll 只拉取一条
		// 复用 kafkaConfig 中的基础配置
		Map<String, Object> props = new HashMap<>(configurationProperties);
		props.putAll(customProps);

		try (Consumer<String, String> consumer = new KafkaConsumer<>(props)) {
			TopicPartition topicPartition = new TopicPartition(topic, partition);

			// 分配分区并定位偏移量
			consumer.assign(Collections.singletonList(topicPartition));
			consumer.seek(topicPartition, offset);

			// 拉取消息(设置超时时间)
			ConsumerRecords<String, String> records = consumer.poll(Duration.ofSeconds(5));

			for (ConsumerRecord<String, String> record : records) {
				if (record.offset() == offset) {
					if (Objects.equals(topic, KafkaTopic.Forlan_MESSAGE_NOTIFY)) {
						// 调用@KafkaListener的方法执行逻辑
						forlanConsumer.userConsumer(record);
					}
					break;
				}
			}
		}
	}

项目中如果没有配置kafkaConfig,也可以自定义一个,只要能拿到连接就行

private Map<String, Object> consumerConfigs() {
    Map<String, Object> props = new HashMap();
    props.put("bootstrap.servers", this.bootstrapServers);
    props.put("group.id", this.groupid);
    props.put("enable.auto.commit", this.autoCommit);
    props.put("auto.commit.interval.ms", this.interval);
    props.put("session.timeout.ms", this.timeout);
    props.put("key.deserializer", this.keyDeserializer);
    props.put("value.deserializer", this.valueDeserializer);
    props.put("auto.offset.reset", this.offsetReset);
    props.put("max.poll.records", this.maxPollRecords);
    return props;
}

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Java打包可执行JAR文件的三种方式详解

    Java打包可执行JAR文件的三种方式详解

    很多 Java 开发者都遇到过这样的问题,一打包就报错 ClassNotFoundException,其实这就是JAR 包没打好,下面我们就来看看Maven打可执行 JAR 的三种详细方法吧
    2025-12-12
  • Windows系统下修改jar包中的依赖实现过程

    Windows系统下修改jar包中的依赖实现过程

    本文介绍了如何在Windows下修改和升级Java项目中的JAR包依赖,首先,通过解压原JAR包并替换指定的依赖JAR文件来实现升级,然后,使用命令重新打包JAR文件,整个过程包括解压、替换和打包三个步骤,确保项目能够正确引用更新的依赖
    2025-12-12
  • Java多线程之多线程异常捕捉

    Java多线程之多线程异常捕捉

    在java多线程程序中,所有线程都不允许抛出未捕获的checked exception,也就是说各个线程需要自己把自己的checked exception处理掉,通过此篇文章给大家分享Java多线程之多线程异常捕捉,需要的朋友可以参考下
    2015-08-08
  • 线程池之newCachedThreadPool可缓存线程池的实例

    线程池之newCachedThreadPool可缓存线程池的实例

    这篇文章主要介绍了线程池之newCachedThreadPool可缓存线程池的实例,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2021-06-06
  • 详解Java中的防抖和节流

    详解Java中的防抖和节流

    防抖是将多次执行变为指定时间内不在触发之后,执行一次。节流是将多次执行变为指定时间不论触发多少次,时间一到就执行一次。这篇文章来和大家聊聊Java中的防抖和节流,感兴趣的可以了解一下
    2022-08-08
  • java void方法单测断言的三种实现示例

    java void方法单测断言的三种实现示例

    Java中对void方法单元测试可通过验证状态变化、行为交互及异常抛出实现,推荐使用AssertJ和Mockito,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习吧
    2025-07-07
  • Spring中DAO被循环调用的时候数据不实时更新的解决方法

    Spring中DAO被循环调用的时候数据不实时更新的解决方法

    这篇文章主要介绍了Spring中DAO被循环调用的时候数据不实时更新的解决方法,需要的朋友可以参考下
    2014-08-08
  • nodejs与JAVA应对高并发的对比方式

    nodejs与JAVA应对高并发的对比方式

    这篇文章主要介绍了nodejs与JAVA应对高并发的对比方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-08-08
  • 详解基于spring多数据源动态调用及其事务处理

    详解基于spring多数据源动态调用及其事务处理

    本篇文章主要介绍了基于spring多数据源动态调用及其事务处理 ,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-06-06
  • java中BigDecimal类的构造详解及使用

    java中BigDecimal类的构造详解及使用

    这篇文章主要介绍了java中BigDecimal类的构造详解及使用,Java在java.math包中提供的API类BigDecimal,用来对超过16位有效位的数进行精确的运算,需要的朋友可以参考下
    2023-07-07

最新评论