欧美三区_成人在线免费观看视频_欧美极品少妇xxxxⅹ免费视频_a级毛片免费播放_鲁一鲁中文字幕久久_亚洲一级特黄

Hadoop 集群 傻瓜式搭建手記

系統(tǒng) 2656 0

關(guān)于Hadoop的配置,按照我的理解,應(yīng)該有六個文件需要修改,它們都在Hadoop的conf文件夾下,分別是

masters/slavers:配置masters和slavers的機器IP

hadoop-env.sh :Hadoop 運行時的環(huán)境變量,比如JAVA_HOME,LOG之類的

core-site.xml :Hadoop 的核心配置文件,對應(yīng)并覆蓋core-default.xml 中的配置項

hdfs-site.xml :HDFS 的配置文件,對應(yīng)并覆蓋hdfs-default.xml 中的配置項

mapred-site.xml : Map/Reduce的配置文件,對應(yīng)并覆蓋mapred-default.xml 中的配置項

上面提到的三個*-default.xml 是Hadoop的默認(rèn)配置項,理論上都是只讀的,如果要修改,就通過對應(yīng)的用戶配置文件來覆蓋其設(shè)置。

?

1、先配置masters/slavers,NameNode和JobTracker是master, DataNode01和DataNode02是salvers

Masters:

?

  1. vi?/hadoop/conf/masters??
masters文件內(nèi)容如下:

?

?

  1. 192.168.100.101??
  2. 192.168.100.102??

?

Slavers:

  1. vi?/hadoop/conf/slavers??
slavers文件內(nèi)容如下:

?

?

  1. 192.168.100.103??
  2. 192.168.100.104??


?

2、先配置hadoop-env.sh,這里最重要的是配置JAVA_HOME,在我的機器上是這樣的:

?

  1. export?JAVA_HOME=/usr/lib/jvm/java-6-sun??

其余的可以考慮配置日志文件路徑:

?

?

  1. export?HADOOP_LOG_DIR=${HADOOP_HOME}/logs??

3、配置 core-site.xml ,通過文檔可以知道這里一般是配置NameNode的地址,即機器名或IP:

?

  1. < configuration > ????
  2. ???????? < property > ??
  3. ???????????????? < name > fs.default.name </ name > ?????
  4. ???????????????? < value > hdfs://192.168.100.101:9000 </ value > ?????
  5. ???????? </ property > ???
  6. </ configuration > ???

4、配置 hdfs-site.xml ,這里一般配置文件存放路徑以及文件權(quán)限:

?

?

  1. < configuration > ????
  2. ???? < property > ????
  3. ???????? <!--?DFS中存儲文件命名空間信息的目錄?--> ????
  4. ???????? < name > dfs.name.dir </ name > ????
  5. ???????? < value > /hadoop/dfs/name </ value > ????
  6. ???? </ property > ????
  7. ???? < property > ????
  8. ???????? <!--?DFS中存儲文件數(shù)據(jù)的目錄?--> ????
  9. ???????? < name > dfs.data.dir </ name > ?????
  10. ???????? < value > /hadoop/dfs/data </ value > ????
  11. ???? </ property > ????
  12. ???? < property > ????
  13. ???????? <!--?是否對DFS中的文件進(jìn)行權(quán)限控制(測試中一般用false)--> ????
  14. ???????? < name > dfs.permissions </ name > ????
  15. ???????? < value > false </ value > ????
  16. ??? </ property > ????
  17. </ configuration > ???


5、配置 mapred-site.xml , 這里配置的東西有很多,都是跟Map-Reduce相關(guān)的,不過暫時先配置如下幾項:

?

  1. < configuration > ??
  2. ???? < property > ????
  3. ???????? <!--?JobTracker節(jié)點?--> ????
  4. ???????? < name > mapred.job.tracker </ name > ????
  5. ???????? < value > hdfs://192.168.100.102:9001 </ value > ????
  6. ???? </ property > ????
  7. ???? < property > ????
  8. ???????? <!--?map/reduce的系統(tǒng)目錄(使用的HDFS的路徑)?--> ????
  9. ???????? < name > mapred.system.dir </ name > ????
  10. ???????? < value > /hadoop/mapred/system </ value > ????
  11. ???? </ property > ????
  12. ???? < property > ????
  13. ???????? <!--?map/reduce的臨時目錄(可使用“,”隔開,設(shè)置多重路徑來分?jǐn)偞疟PIO)?--> ????
  14. ???????? < name > mapred.local.dir </ name > ????
  15. ???????? < value > /hadoop/mapred/local </ value > ????
  16. ???? </ property > ????
  17. </ configuration > ???

?

?

這些配置都可以在一臺機器上搞定,由于Hadoop所有機器是使用同樣的配置,所以可以通過scp命令將conf下的內(nèi)容拷貝復(fù)制到各個機器上:

?

  1. scp?-rp?/hadoop/conf?fox@192.168.100.102/hadoop/??

只復(fù)制conf是由于我拷貝虛擬機時就已經(jīng)把JAVA,Hadoop 都安裝好后才拷貝的,這樣可以保證所有文件在同一目錄。

?

?

啟動

然后,激動人心的時刻到了,所有配置都搞定了,我們可以啟動了!

不過還有一件事情必須要先做, 格式化名稱空間。

在NameNode上,執(zhí)行如下命令:

?

  1. cd?/hadoop/bin??
  2. ./hadoop?namenode?-format??
執(zhí)行后結(jié)果如下:

?

Hadoop 集群 傻瓜式搭建手記

?

然后就可以執(zhí)行最后一個命令了:

?

  1. ./start-all.sh??

如果一切順利的話,應(yīng)該就成功了:

?

Hadoop 集群 傻瓜式搭建手記

?

如果要關(guān)閉的話,可以執(zhí)行

?

  1. ./stop-all.sh??


ref:http://blog.csdn.net/lee_leefox/article/details/7071692

Hadoop 集群 傻瓜式搭建手記


更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯(lián)系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦?。。?/p>

發(fā)表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 欧美 日产 国产精品 | 日韩专区在线播放 | 国产 AV 仑乱内谢 | 久久久久国产一区二区三区四区 | 国产精品亲子伦av一区二区三区 | 亚洲精品一区二区三区在线观看 | 999毛片免费观看 | 精品欧美一区二区在线看片 | 日韩精品网址 | 亚洲成人免费视频在线观看 | 国产伦精品一区二区三区精品视频 | 久久制服丝袜 | 欧美狠狠操 | 日本高清免费zzzzzzzz | 久久一区 | 98色花堂国产第一页 | 欧美a级成人淫片免费看 | 一级毛片免费播放 | 波多野结衣在线网址 | 亚洲高清中文字幕一区二区三区 | 色AV亚洲AV永久无码精品软件 | 亚洲欧美日韩激情在线观看 | 国产精品久久久久久久久久久久 | 一区二区三区在线免费看 | 亚洲精品久久久 | 久久福利 | 影音先锋中文字幕在线 | 啪啪天堂| 锵锵锵锵锵锵锵锵锵好湿好大 | 成人在线不卡 | 9久久99久久久精品齐齐综合色圆 | 首页亚洲国产丝袜长腿综合 | 一级毛片私人影院老司机 | 亚洲电影一区二区三区 | 成人亚洲一区 | 亚洲线精品一区二区三区 | 欧美性爽xxxⅹbbbb | 奇米88| 九九爱这里只有精品 | 亚洲国产日产韩国欧美综合 | 欧美偷拍自拍视频 |