我是靠谱客的博主 霸气镜子,这篇文章主要介绍spark dataset 分组求极值,现在分享给大家,希望可以做个参考。

 

原始数据:

+-----+---+
|  sex|age|
+-----+---+
|women| 35|
|  man|  3|
|women| 27|
|  man| 51|
|women| 34|
|  man| 26|
|  man| 49|
|women|  7|
|  man|119|
|  man|128|
|women|129|
|women| 41|
|  man| 33|
|  man|112|
|women| 33|
|women| 58|
|women|127|
|  man| 35|
|  man| 54|
|women|119|
+-----+---+
only showing top 20 rows

 

 import org.apache.spark.sql.functions._     //解决:无法重载方法agg
    df.groupBy("sex").agg(max("age")).show()
    df.groupBy().max().show()   // groupBy 不传参 不分组 
    /*
    +-----+--------+
|  sex|max(age)|
+-----+--------+
|  man|     132|
|women|     139|
+-----+--------+

+--------+
|max(age)|
+--------+
|     139|
+--------+
     */

 

最后

以上就是霸气镜子最近收集整理的关于spark dataset 分组求极值的全部内容,更多相关spark内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(100)

评论列表共有 0 条评论

立即
投稿
返回
顶部