你好,游客 登錄
背景:
閱讀新聞

一分鐘讓你知道Hadoop是什么

[日期:2014-06-17] 來源:CSDN博客  作者:kkdelta [字體: ]

  hadoop是什么?Hadoop是一種分析和處理大數據的軟件平臺,是Appach的一個用Java語言所實現的開源軟件的加框,在大量計算機組成的集群當中實現了對于海量的數據進行的分布式計算。

  Hadoop的框架最核心的設計就是:HDFS和MapReduce.HDFS為海量的數據提供了存儲,則MapReduce為海量的數據提供了計算.

  大數據在Hadoop處理的流程可以參照下面簡單的圖來進行理解:數據是通過了Hadoop的集群處理后得到的結果。

Hadoop是什么

  HDFS:Hadoop Distributed File System,Hadoop的分布式文件系統.

  大文件被分成默認64M一塊的數據塊分布存儲在集群機器中.如下圖中的文件 data1被分成3塊,這3塊以冗余鏡像的方式分布在不同的機器中.

Hadoop是什么

  MapReduce:Hadoop為每一個input split創建一個task調用Map計算,在此task中依次處理此split中的一個個記錄(record),map會將結果以key--value 的形式輸出,hadoop負責按key值將map的輸出整理后作為Reduce的輸入,Reduce Task的輸出為整個job的輸出,保存在HDFS上.

Hadoop是什么

  Hadoop的集群主要由 NameNode,DataNode,Secondary NameNode,JobTracker,TaskTracker組成.如下圖所示:

Hadoop是什么

  NameNode中記錄了文件是如何被拆分成block以及這些block都存儲到了那些DateNode節點.NameNode同時保存了文件系統運行的狀態信息. DataNode中存儲的是被拆分的blocks.Secondary NameNode幫助NameNode收集文件系統運行的狀態信息.JobTracker當有任務提交到Hadoop集群的時候負責Job的運行,負責調度多個TaskTracker.TaskTracker負責某一個map或者reduce任務.

原文鏈接:http://blog.csdn.net/kkdelta/article/details/7696025





收藏 推薦 打印 | 錄入: | 閱讀:
本文評論   查看全部評論 (0)
表情: 表情 姓名: 字數
點評:
       
評論聲明
  • 尊重網上道德,遵守中華人民共和國的各項有關法律法規
  • 承擔一切因您的行為而直接或間接導致的民事或刑事法律責任
  • 本站管理人員有權保留或刪除其管轄留言中的任意內容
  • 本站有權在網站內轉載或引用您的評論
  • 參與本評論即表明您已經閱讀并接受上述條款
捕鱼达人之深海狩猎玩 上海11选5任走势图 澳洲快乐8开奖记录 20选5规则及奖 万得炒股app 福彩开奖结果查询更多 大庆麻将下载安装 联投灵活配置二期私 体彩十一运夺金开奖结果 体育彩票浙江20选5 捕鱼大师官网网址多少 黑桃棋牌官网手机版 福建体彩31选7中奖规则 电玩千炮捕鱼街机版 富贵乐园棋牌? 广西快3开奖结果全部 足球直播视频