我是靠谱客的博主 轻松耳机,最近开发中收集的这篇文章主要介绍sparksql使用hive数据源保存在mysql数据库,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

//导入包并配置
hive数据源
val spark = SparkSession.builder()
.master(“local”)
.appName(“AreaTopNRoadFlowAnalyzer”)
.config(“fs.defaultFS”, “hdfs://ip:9000”)
//数据存放位置
.config(“spark.sql.warehouse.dir”, “hdfs://ip:9000/test”)
.enableHiveSupport()
.getOrCreate()
spark.sparkContext.setLogLevel(“WARN”)
val= df spark.sql =“select * from 数据库名字.表名”

往mysql里写入输入
df.write.format(“jdbc”).option(“driver”,“com.mysql.jdbc.Driver”)
//数据库名字自己创建
.option(“url”, “jdbc:mysql://ip:3306/数据库名字”)
//topn_road_car_count 表名字 自动创建
.option(“dbtable”, “topn_road_car_count”)
.option(“user”, “root”)
.option(“password”,“root”)
.mode(SaveMode.Append).save()
spark.close()

最后

以上就是轻松耳机为你收集整理的sparksql使用hive数据源保存在mysql数据库的全部内容,希望文章能够帮你解决sparksql使用hive数据源保存在mysql数据库所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(44)

评论列表共有 0 条评论

立即
投稿
返回
顶部