我是靠谱客的博主 英俊店员,最近开发中收集的这篇文章主要介绍Map/Reduce程序设计,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

Map/Reduce程序设计

(1)执行JAR包

psftp将JAR包,数据上传至Hadoop主节点,用put命令即可上传

Putty>pscp E:/文件地址/....jar  root@192.x.x.x:/root/
#输入密码即可

(2)进入Linux主节点

执行hdfs dfs -put命令将这些文件上传到指定目录
在这里插入图片描述
在这里插入图片描述

(3)执行jar包出现,发现任务执行时卡死在如下图所示的这一步

在这里插入图片描述
我参考了相关内容,可以解决我出现的错误
在这里插入图片描述

(4)再次执行修改的jar

在这里插入图片描述
查看最终结果
在这里插入图片描述

(5)jar包相关代码编写

在这里插入图片描述
在这里插入图片描述

(6)问题总结;

(1)执行jar包出现,集群时间不同步,将两个都重启解决问题
(2)出现如图错误,是虚拟内存超了,我去对yarn-site.xml进行修改,修改检查虚拟内存的属性为false解决了问题
在这里插入图片描述

最后

以上就是英俊店员为你收集整理的Map/Reduce程序设计的全部内容,希望文章能够帮你解决Map/Reduce程序设计所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(27)

评论列表共有 0 条评论

立即
投稿
返回
顶部