什么是Hadoop，怎樣學(xué)習(xí)Hadoop

Hadoop實現(xiàn)了一個分布式文件系統(tǒng)（Hadoop Distributed File System），簡稱HDFS。HDFS有高容錯性的特點，并且設(shè)計用來部署在低廉的（low-cost）硬件上；而且它提供高吞吐量（high throughput）來訪問應(yīng)用程序的數(shù)據(jù)，適合那些有著超大數(shù)據(jù)集（large data set）的應(yīng)用程序。HDFS放寬了（relax）POSIX的要求，可以以流的形式訪問（streaming access）文件系統(tǒng)中的數(shù)據(jù)。
Hadoop的框架最核心的設(shè)計就是：HDFS和MapReduce。HDFS為海量的數(shù)據(jù)提供了存儲，則MapReduce為海量的數(shù)據(jù)提供了計算。一句話來講Hadoop就是存儲加計算。

Hadoop這個名字不是一個縮寫，而是一個虛構(gòu)的名字。該項目的創(chuàng)建者，Doug Cutting解釋Hadoop的得名 ：“這個名字是我孩子給一個棕黃色的大象玩具命名的。

Hadoop是一個能夠讓用戶輕松架構(gòu)和使用的分布式計算平臺。用戶可以輕松地在Hadoop上開發(fā)和運行處理海量數(shù)據(jù)的應(yīng)用程序。它主要有以下幾個優(yōu)點：

1、高可靠性 Hadoop按位存儲和處理數(shù)據(jù)的能力值得人們信賴。

2、高擴展性 Hadoop是在可用的計算機集簇間分配數(shù)據(jù)并完成計算任務(wù)的，這些集簇可以方便地擴展到數(shù)以千計的節(jié)點中。

3、高效性 Hadoop能夠在節(jié)點之間動態(tài)地移動數(shù)據(jù)，并保證各個節(jié)點的動態(tài)平衡，因此處理速度非常快。

4、高容錯性 Hadoop能夠自動保存數(shù)據(jù)的多個副本，并且能夠自動將失敗的任務(wù)重新分配。

5、低成本 與一體機、商用數(shù)據(jù)倉庫以及QlikView、Yonghong Z-Suite等數(shù)據(jù)集市相比，hadoop是開源的，項目的軟件成本因此會大大降低。

Hadoop帶有用Java語言編寫的框架，因此運行在 Linux 生產(chǎn)平臺上是非常理想的。Hadoop 上的應(yīng)用程序也可以使用其他語言編寫，比如 C++。

Hadoop大數(shù)據(jù)處理的意義

Hadoop得以在大數(shù)據(jù)處理應(yīng)用中廣泛應(yīng)用得益于其自身在數(shù)據(jù)提取、變形和加載(ETL)方面上的天然優(yōu)勢。Hadoop的分布式架構(gòu)，將大數(shù)據(jù)處理引擎盡可能的靠近存儲，對例如像ETL這樣的批處理操作相對合適，因為類似這樣操作的批處理結(jié)果可以直接走向存儲。Hadoop的MapReduce功能實現(xiàn)了將單個任務(wù)打碎，并將碎片任務(wù)(Map)發(fā)送到多個節(jié)點上，之后再以單個數(shù)據(jù)集的形式加載(Reduce)到數(shù)據(jù)倉庫里。

Hadoop由以下幾個項目構(gòu)成

1、Hadoop Common ：Hadoop體系最底層的一個模塊，為Hadoop各子項目提供各種工具，如：配置文件和日志操作等。

2、HDFS：分布式文件系統(tǒng)，提供高吞吐量的應(yīng)用程序數(shù)據(jù)訪問，對外部客戶機而言，HDFS 就像一個傳統(tǒng)的分級文件系統(tǒng)。可以創(chuàng)建、刪除、移動或重命名文件，等等。但是 HDFS 的架構(gòu)是基于一組特定的節(jié)點構(gòu)建的（參見圖 1），這是由它自身的特點決定的。這些節(jié)點包括 NameNode（僅一個），它在 HDFS 內(nèi)部提供元數(shù)據(jù)服務(wù)；DataNode，它為 HDFS 提供存儲塊。由于僅存在一個 NameNode，因此這是 HDFS 的一個缺點（單點失敗）。    存儲在 HDFS 中的文件被分成塊，然后將這些塊復(fù)制到多個計算機中（DataNode）。這與傳統(tǒng)的 RAID 架構(gòu)大不相同。塊的大小（通常為 64MB）和復(fù)制的塊數(shù)量在創(chuàng)建文件時由客戶機決定。NameNode 可以控制所有文件操作。HDFS 內(nèi)部的所有通信都基于標(biāo)準(zhǔn)的 TCP/IP 協(xié)議。

3、MapReduce ：一個分布式海量數(shù)據(jù)處理的軟件框架集計算集群。

4、Avro ：doug cutting主持的RPC項目，主要負(fù)責(zé)數(shù)據(jù)的序列化。有點類似Google的protobuf和Facebook的thrift。avro用來做以后hadoop的RPC，使hadoop的RPC模塊通信速度更快、數(shù)據(jù)結(jié)構(gòu)更緊湊。

5、Hive ：類似CloudBase，也是基于hadoop分布式計算平臺上的提供data warehouse的sql功能的一套軟件。使得存儲在hadoop里面的海量數(shù)據(jù)的匯總，即席查詢簡單化。hive提供了一套QL的查詢語言，以sql為基礎(chǔ)，使用起來很方便。

6、HBase ：基于Hadoop Distributed File System，是一個開源的，基于列存儲模型的可擴展的分布式數(shù)據(jù)庫，支持大型表的存儲結(jié)構(gòu)化數(shù)據(jù)。

7、Pig ：是一個并行計算的高級的數(shù)據(jù)流語言和執(zhí)行框架 ，SQL-like語言，是在MapReduce上構(gòu)建的一種高級查詢語言，把一些運算編譯進MapReduce模型的Map和Reduce中，并且用戶可以定義自己的功能。

8、ZooKeeper ：Google的Chubby一個開源的實現(xiàn)。它是一個針對大型分布式系統(tǒng)的可靠協(xié)調(diào)系統(tǒng)，提供的功能包括：配置維護、名字服務(wù)、分布式同步、組服務(wù)等。ZooKeeper的目標(biāo)就是封裝好復(fù)雜易出錯的關(guān)鍵服務(wù)，將簡單易用的接口和性能高效、功能穩(wěn)定的系統(tǒng)提供給用戶。

9、Chukwa ：一個管理大型分布式系統(tǒng)的數(shù)據(jù)采集系統(tǒng) 由yahoo貢獻。

10、Cassandra ：無單點故障的可擴展的多主數(shù)據(jù)庫 。

11、Mahout ：一個可擴展的機器學(xué)習(xí)和數(shù)據(jù)挖掘庫 。

Hadoop 設(shè)計之初的目標(biāo)就定位于高可靠性、高可拓展性、高容錯性和高效性，正是這些設(shè)計上與生俱來的優(yōu)點，才使得Hadoop 一出現(xiàn)就受到眾多大公司的青睞，同時也引起了研究界的普遍關(guān)注。到目前為止，Hadoop 技術(shù)在互聯(lián)網(wǎng)領(lǐng)域已經(jīng)得到了廣泛的運用，如Yahoo、Facebook、Adobe、IBM、百度、阿里巴巴、騰訊、華為、中國移動等。

關(guān)于怎樣學(xué)習(xí)hadoop，首先要了解并且深刻認(rèn)識什么是hadoop，它的原理以及作用是什么，包括基本構(gòu)成是什么，分別有什么作用，當(dāng)然，在學(xué)習(xí)之前，至少要掌握一門基礎(chǔ)語言，這樣在學(xué)習(xí)起來才會事半功倍，因為目前hadoop在國內(nèi)發(fā)展時間不長，有興趣的朋友可以先找一些書籍來學(xué)習(xí)，打好基本功，本站也將持續(xù)更新有關(guān)hadoop的學(xué)習(xí)方法以及資料資源共享，希望我們一起努力，有好的方法和建議歡迎交流。