Spark ML常用函数

77 阅读 0 评论 51 点赞

我是靠谱客的博主搞怪导师，最近开发中收集的这篇文章主要介绍Spark ML常用函数，觉得挺不错的，现在分享给大家，希望可以做个参考。

VectorAssembler是一个transformer，作用是将多列数据转化为单列的向量列。

 val assembler = new VectorAssembler().setInputCols(featureCol).setOutputCol("features")

StringIndexer 作用是把一组字符型标签编码成一组标签索引，索引的范围为0到标签数量。

val indexer = new StringIndexer().setInputCol("category").setOutputCol("categoryIndex").fit(df)

IndexToString 作用是把标签索引的一列重新映射回原有的字符型标签。

val converter = new IndexToString(). setInputCol("categoryIndex").setOutputCol("originalCategory")

OneHotEncoder 作用是指把一列标签索引映射成一列二进制数组，且最多的时候只有一位有效。比如逻辑斯蒂回归。

VectorIndexer 作用是解决向量数据集中的类别特征索引。

以上就是搞怪导师为你收集整理的Spark ML常用函数的全部内容，希望文章能够帮你解决Spark ML常用函数所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。