我是靠谱客的博主 诚心手机,这篇文章主要介绍Spark中MapPartition和Map的区别,现在分享给大家,希望可以做个参考。

1、map()每次处理一条数据

2、mapPartition()每次处理一个分区的数据,这个分区的数据处理完后,原 RDD 中分区的
数据才能释放,可能导致 OOM

开发指导:当内存空间较大的时候建议使用 mapPartition(),以提高处理效率。

最后

以上就是诚心手机最近收集整理的关于Spark中MapPartition和Map的区别的全部内容,更多相关Spark中MapPartition和Map内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(47)

评论列表共有 0 条评论

立即
投稿
返回
顶部