Spark ML常用函数

209 阅读 0 评论 138 点赞

我是靠谱客的博主搞怪导师，这篇文章主要介绍Spark ML常用函数，现在分享给大家，希望可以做个参考。

VectorAssembler是一个transformer，作用是将多列数据转化为单列的向量列。

 val assembler = new VectorAssembler().setInputCols(featureCol).setOutputCol("features")

StringIndexer 作用是把一组字符型标签编码成一组标签索引，索引的范围为0到标签数量。

val indexer = new StringIndexer().setInputCol("category").setOutputCol("categoryIndex").fit(df)

IndexToString 作用是把标签索引的一列重新映射回原有的字符型标签。

val converter = new IndexToString(). setInputCol("categoryIndex").setOutputCol("originalCategory")

OneHotEncoder 作用是指把一列标签索引映射成一列二进制数组，且最多的时候只有一位有效。比如逻辑斯蒂回归。

VectorIndexer 作用是解决向量数据集中的类别特征索引。

以上就是搞怪导师最近收集整理的关于Spark ML常用函数的全部内容，更多相关Spark内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。