我是靠谱客的博主 热情白云,这篇文章主要介绍kafka高吞吐量原理,现在分享给大家,希望可以做个参考。

kafka高吞吐量的原因:

一、顺序读写磁盘,充分利用了操作系统的预读机制。

二、linux中使用sendfile命令,减少一次数据拷贝,如下。

①把数据从硬盘读取到内核中的页缓存。

②把数据从内核中读取到用户空间。(sendfile命令将跳过此步骤)

③把用户空间中的数据写到socket缓冲区中。

④操作系统将数据从socket缓冲区中复制到网卡缓冲区,以便将数据经网络发出

三、生产者客户端缓存消息批量发送,消费者批量从broker获取消息,减少网络io次数,充分利用磁盘顺序读写的性能。

四、通常情况下kafka的瓶颈不是cpu或者磁盘,而是网络带宽,所以生产者可以对数据进行压缩。

最后

以上就是热情白云最近收集整理的关于kafka高吞吐量原理的全部内容,更多相关kafka高吞吐量原理内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(75)

评论列表共有 0 条评论

立即
投稿
返回
顶部