我是靠谱客的博主 愤怒金鱼,最近开发中收集的这篇文章主要介绍hadoop 组成部分,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

  • HDFS 海量数据的存储系统
    管理者:NameNode 工作者:DataNode

  • MapReduce 海量数据计算框架

  • YARN 资源调度框架
    管理者:ResourceManager 工作者:DataManager

  • Common:Hadoop工具包,支持其他模块的工具模块(Configuration、RPC、序列化机制、日志操作)

Namenode的作用

a.维护,管理文件系统的名字空间(元数据信息)
b.负责确定指定文件块到具体的DataNode节点的映射关系
c.维护管理DataNode上报的心跳信息

Secondary NameNode在HDFS中是什么作用,他能不能替代NameNode?

Secondary NameNode主要作用是辅助namenode管理元数据信息,
负责辅助NameNode管理工作。他不能替代NameNode。

DataNode的作用

  • 1.执行数据的读写(响应的是客户端)。

  • 2.周期向NameNode汇报。(若datanode 10分钟没有向NameNode做汇报,表示已丢失(已宕机)
    心跳周期 3秒

  • 3.执行流水线的复制(一点一点复制)
    在这里插入图片描述

最后

以上就是愤怒金鱼为你收集整理的hadoop 组成部分的全部内容,希望文章能够帮你解决hadoop 组成部分所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(50)

评论列表共有 0 条评论

立即
投稿
返回
顶部