精明摩托

文章
11
资源
0
加入时间
3年0月9天

Kafka消费者之Consumer的偏移量如何管理

偏移量管理每个consumer内存里的数据结构保存每个topic的每个分区的消费的offset,定期会提交offset,老版本是写入zookeeper,但是我们知道zookeeper是不支持高并发的,kafka当初的架构设计的不合理采用zk用来控制并发,是不够的,zk是用来做分布式协调的,轻量级的可以,不能负责高并发操作,作为简单的数据存储可以,例如集群信息等和clickhouse现在面临的问题一样现在新的版本提交offset发送给kafka内部topic:__consumer_offset,提