我是靠谱客的博主 拼搏鸡,最近开发中收集的这篇文章主要介绍Hadoop 之Job提交推演,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

Job提交推演:
    1.Job job = Job.getInstance();
    2.job.waitForCompletion();
        job.submit();
            submitter.submitJobInternal(Job.this, cluster);
                //检查目录是否存在
                checkSpecs(job);
                
                //准备hdfs上的Staging目录:/tmp/..../.staging
                JobSubmissionFiles.getStagingDir(cluster, conf);
                
                //得到jobId
                submitClient.getNewJobID();
                
                //构造提交job目录/tmp/..../.staging/job_xxx-000
                Path submitJobDir = new Path(jobStagingArea, jobId.toString());
                
                //复制与配置文件(jar)
                copyAndConfigureFiles(job, submitJobDir);
                
                //写入切割信息文件
                writeSplits(job, submitJobDir);
                
                //构造提交job文件路径
                Path submitJobFile = JobSubmissionFiles.getJobConfPath(submitJobDir);
                
                //写入配置文件
                writeConf(conf, submitJobFile);
                
                //提交作业
                submitClient.submitJob(jobId, submitJobDir.toString(), job.getCredentials())

转载于:https://my.oschina.net/weigy/blog/891881

最后

以上就是拼搏鸡为你收集整理的Hadoop 之Job提交推演的全部内容,希望文章能够帮你解决Hadoop 之Job提交推演所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(44)

评论列表共有 0 条评论

立即
投稿
返回
顶部