根据自己学大数据复习总结以及网上资料总结而来，后序更新大数据学习心得与大数据中各种组件

大数据

定义

大数据（big data），IT行业术语，是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

麦肯锡全球研究所给出的定义是：一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。

Hadoop简介

Hadoop产生的背景

Hadoop起源于Apache Nutch项目，始于2002年，是Apache Lucene的子项目之一 。2004年，Google在“操作系统设计与实现”（Operating System Design and Implementation，OSDI）会议上公开发表了题为MapReduce：Simplified Data Processing on Large Clusters（Mapreduce：简化大规模集群上的数据处理）的论文之后，受到启发的Doug Cutting等人开始尝试实现MapReduce计算框架，并将它与NDFS（Nutch Distributed File System）结合，用以支持Nutch引擎的主要算法。由于NDFS和MapReduce在Nutch引擎中有着良好的应用，所以它们于2006年2月被分离出来，成为一套完整而独立的软件，并被命名为Hadoop。到了2008年年初，hadoop已成为Apache的顶级项目，包含众多子项目，被应用到包括Yahoo在内的很多互联网公司。

Hadoop的优势

Hadoop是一个能够对大量数据进行分布式处理的软件框架。 Hadoop 以一种可靠、高效、可伸缩的方式进行数据处理。

1.高可靠性。Hadoop按位存储和处理数据的能力值得人们信赖。

2.高扩展性。Hadoop是在可用的计算机集簇间分配数据并完成计算任务的，这些集簇可以方便地扩展到数以千计的节点中。

3.高效性。Hadoop能够在节点之间动态地移动数据，并保证各个节点的动态平衡，因此处理速度非常快。

4.高容错性。Hadoop能够自动保存数据的多个副本，并且能够自动将失败的任务重新分配 。

5.低成本。与一体机、商用数据仓库以及QlikView、Yonghong Z-Suite等数据集市相比，hadoop是开源的，项目的软件成本因此会大大降低。

Hadoop大数据处理的意义

Hadoop得以在大数据处理应用中广泛应用得益于其自身在数据提取、变形和加载(ETL)方面上的天然优势。Hadoop的分布式架构，将大数据处理引擎尽可能的靠近存储，对例如像ETL这样的批处理操作相对合适，因为类似这样操作的批处理结果可以直接走向存储。Hadoop的MapReduce功能实现了将单个任务打碎，并将碎片任务(Map)发送到多个节点上，之后再以单个数据集的形式加载(Reduce)到数据仓库里。

Hadoop组成

Hadoop HDFS：一个高可靠、高吞吐量的分布式文件系统。

Hadoop MapReduce：一个分布式的离线并行计算框架。

Hadoop YARN：作业调度与集群资源管理的框架。

Hadoop Common：支持其他模块的工具模块。

Hadoop生态圈重点组件：

HDFS：Hadoop的分布式文件存储系统。

MapReduce：Hadoop的分布式程序运算框架，也可以叫做一种编程模型。

Hive：基于Hadoop的类SQL数据仓库工具

Hbase：基于Hadoop的列式分布式NoSQL数据库

ZooKeeper：分布式协调服务组件

Mahout：基于MapReduce/Flink/Spark等分布式运算框架的机器学习算法库

Oozie/Azkaban：工作流调度引擎

Sqoop：数据迁入迁出工具

Flume：日志采集工具

大数据的意义

现在的社会是一个高速发展的社会，科技发达，信息流通，人们之间的交流越来越密切，生活也越来越方便，大数据就是这个高科技时代的产物。阿里巴巴创办人马云来台演讲中就提到，未来的时代将不是IT时代，而是DT的时代，DT就是Data Technology数据科技，显示大数据对于阿里巴巴集团来说举足轻重。

有人把数据比喻为蕴藏能量的煤矿。煤炭按照性质有焦煤、无烟煤、肥煤、贫煤等分类，而露天煤矿、深山煤矿的挖掘成本又不一样。与此类似，大数据并不在“大”，而在于“有用”。价值含量、挖掘成本比数量更为重要。对于很多行业而言，如何利用这些大规模数据是赢得竞争的关键。
大数据的价值体现在以下几个方面：
（1）对大量消费者提供产品或服务的企业可以利用大数据进行精准营销；
（2）做小而美模式的中小微企业可以利用大数据做服务转型；
（3）面临互联网压力之下必须转型的传统企业需要与时俱进充分利用大数据的价值。

不过，“大数据”在经济发展中的巨大意义并不代表其能取代一切对于社会问题的理性思考，科学发展的逻辑不能被湮没在海量数据中。著名经济学家路德维希·冯·米塞斯曾提醒过：“就今日言，有很多人忙碌于资料之无益累积，以致对问题之说明与解决，丧失了其对特殊的经济意义的了解。”这确实是需要警惕的。

在这个快速发展的智能硬件时代，困扰应用开发者的一个重要问题就是如何在功率、覆盖范围、传输速率和成本之间找到那个微妙的平衡点。企业组织利用相关数据和分析可以帮助它们降低成本、提高效率、开发新产品、做出更明智的业务决策等等。例如，通过结合大数据和高性能的分析，下面这些对企业有益的情况都可能会发生：
（1）及时解析故障、问题和缺陷的根源，每年可能为企业节省数十亿美元。
（2）为成千上万的快递车辆规划实时交通路线，躲避拥堵。
（3）分析所有SKU，以利润最大化为目标来定价和清理库存。
（4）根据客户的购买习惯，为其推送他可能感兴趣的优惠信息。
（5）从大量客户中快速识别出金牌客户。
（6）使用点击流分析和数据挖掘来规避欺诈行为。

大数据趋势

趋势一：数据的资源化
趋势二：与云计算的深度结合
趋势三：科学理论的突破
趋势四：数据科学和数据联盟的成立
趋势五：数据泄露泛滥
趋势六：数据管理成为核心竞争力
趋势七：数据质量是BI（商业智能）成功的关键
趋势八：数据生态系统复合化程度加强
概念来源

最后

以上就是激昂哈密瓜最近收集整理的关于大数据学习开端大数据Hadoop简介的全部内容，更多相关大数据学习开端大数据Hadoop简介内容请搜索靠谱客的其他文章。