Sqoop+Jenkins实现Mysql与Hive数据库互传一、前言二、Sqoop部分三、Jenkins部分四、其它笔记
一、前言最近在使用Sqoop+Jekins实现mysql与hive数据库数据互传。主要是用sqoop的import命令把mysql数据导入hive,以及使用export命令把hive数据导出到mysql。Jekins起定时作用,定时执行sh脚本,每天同步一次。相关笔记记录如下。感觉Sqoop与kettle类似;不过听说Sqoop处理大数据迁移比kettle性能好/*kettle数据的具体流向可以指定,可以是各种数据的存储工具;sqoop只是完成hdfs到关系型数据库 或者 关系型数据库到hd