我是靠谱客的博主 结实日记本,这篇文章主要介绍HIVE表读数据并转成dict,现在分享给大家,希望可以做个参考。

1. 从HIVE表读数据并转成dict

from pyspark import SparkContext
from pyspark.sql import HiveContext,SparkSession
sc = SparkContext()
sql_context = HiveContext(sc)

sql_data = sqlContext.sql("SELECT key,value1,value2,value3 from db.table")
sql_data_rdd = sql_data.rdd.map(lambda x: x.asDict())
my_dict = sql_data_rdd.collectAsMap()

最后

以上就是结实日记本最近收集整理的关于HIVE表读数据并转成dict的全部内容,更多相关HIVE表读数据并转成dict内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(120)

评论列表共有 0 条评论

立即
投稿
返回
顶部