谦让吐司

文章
5
资源
0
加入时间
2年10月21天

Sqoop简介(1.4.7 最新版本)Sqoop简介

Sqoop简介1. 背景1.1 概览在大数据处理业务框架中,需要处理的数据一般是2个来源(行为日志和业务数据),有些公司如果有python部门,就需要加上python数据这一个。python数据因为各个公司以及各个页面和接口中数据差异较大,一般需要针对公司和特定业务编写程序进行解析,然后存入HDFS或者其他分布式文件系统中。一般都是编写Spark程序(可以分布式进行处理,效率对比java程序要更高。当然,也可以使用java编写mapreduce程序)。行为日志数据,此前已经说过,一般都是使用f