我是靠谱客的博主 无语猫咪,最近开发中收集的这篇文章主要介绍Spark的转换操作(Transformation)和执行操作(Action)详解,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

对于RDD有两种计算方式:
转换操作(返回值还是一个RDD)---也叫懒操作,不是立即执行
执行操作(返回值不是一个RDD)---立即执行


转换操作(Transformation) (如:map,filter,groupBy,sortBy,join等),转换操作也叫懒操作,也就是说从一个RDD转换生成另一个RDD的操作不是马上执行,Spark在遇到转换操作时只会记录需要这样的操作,并不会去执行,需要等到有执行操作的时候才会真正启动计算过程进行计算。


执行操作(Action) (如:count,collect,save,reduce等),执行操作会返回结果或把RDD数据写到存储系统中。Actions是触发Spark启动计算的动因。

 

Transformation操作:

Action操作:

最后

以上就是无语猫咪为你收集整理的Spark的转换操作(Transformation)和执行操作(Action)详解的全部内容,希望文章能够帮你解决Spark的转换操作(Transformation)和执行操作(Action)详解所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(44)

评论列表共有 0 条评论

立即
投稿
返回
顶部