我是靠谱客的博主 可爱毛衣,最近开发中收集的这篇文章主要介绍Kafka踩坑笔记 - SparkStreaming连接 Kafka出现KafkaConsumer is not safe for multi-threaded access错误,觉得挺不错的,现在分享给大家,希望可以做个参考。
概述
问题描述
今天在使用 SparkStreaming消费kafka数据的时候, 出现了这个错误, 很莫名其妙
去百度查了下, 发现这个错误是因为
由于需要定时启动Kafka consumer拉取数据,第一次启动后,没有关掉线程。
但Kafka consumer是非线程安全的,第二次消费数据时会报错:
java.util.ConcurrentModificationException: KafkaConsumer is not safe for multi-threaded access ,
然后我检查了下代码,. 确定没有多线程读取数据后, 然后重启了 Idea , 问题解决, 可能是我之前没有完全关闭掉
解决办法
推荐 看看自己有没有创建多个线程去消费数据, 如果没有的话, 最好重启下IDE
或者 把 下面的Java进程关了
最后
以上就是可爱毛衣为你收集整理的Kafka踩坑笔记 - SparkStreaming连接 Kafka出现KafkaConsumer is not safe for multi-threaded access错误的全部内容,希望文章能够帮你解决Kafka踩坑笔记 - SparkStreaming连接 Kafka出现KafkaConsumer is not safe for multi-threaded access错误所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复