Changes between Version 17 and Version 18 of waue/Hadoop_DRBL


Ignore:
Timestamp:
Feb 27, 2009, 3:01:24 PM (15 years ago)
Author:
jazz
Comment:

--

Legend:

Unmodified
Added
Removed
Modified
  • waue/Hadoop_DRBL

    v17 v18  
    77 * 由於DRBL為無碟系統,並非一般的Cluster,因此有些地方需要注意。
    88
    9 == 零、環境說明 ==
     9= 零、環境說明 =
    1010
    1111環境中共有七台機器,一台為drbl server,也是hadoop的namenode,其他節點則client 與datanode,如下:
     
    2828= 一、安裝 =
    2929
    30  == 1.1 安裝drbl ==
     30== 1.1 安裝drbl ==
     31
    3132 * 詳見 [http://drbl.nchc.org.tw/one4all/desktop/ DRBL的安裝]
    3233
    33  == 1.2 安裝 java 6 ==
     34== 1.2 安裝 java 6 ==
    3435 
    3536 * 在套件庫裡 /etc/apt/sources.list 加入 non-free 庫以及 backports 網址才能安裝 sun-java6
     
    5051}}}
    5152
    52  == 1.3 安裝 Hadoop 0.18.3 ==
     53== 1.3 安裝 Hadoop 0.18.3 ==
    5354
    5455{{{
     
    5960}}}
    6061
    61  = 二、設定 Hadoop =
     62= 二、設定 Hadoop =
    6263
    6364 * 在 /etc/bash.bashrc 的最末加入 以下資訊
     
    141142}}}
    142143
    143  = 三、操作 =
     144= 三、操作 =
    144145 
    145  == 3.1 開啟DRBL Client ==
     146== 3.1 開啟DRBL Client ==
     147
    146148 * 將所有的 client 開啟,並且如下
    147149{{{
     
    151153|         DRBL SERVER          |
    152154|                              |
    153 |    +-- [eth2] 140.110.xxx.130|   +- to WAN
     155|    +-- [eth2] 140.110.X.X    +- to WAN
    154156|                              |
    155 |    +-- [eth1] 192.168.1.254 +- to clients group 1 [ 6 clients, their IP
     157|    +-- [eth1] 192.168.1.254  +- to clients group 1 [ 6 clients, their IP
    156158|                              |             from 192.168.1.2 - 192.168.1.7]
    157159+------------------------------+
     
    161163}}}
    162164
    163  == 3.2 設定ssh ==
     165== 3.2 設定ssh ==
    164166
    165167 * 編寫 /etc/ssh/ssh_config
     
    182184for ((i=2;i<=7;i++));
    183185do
    184  scp scp -r ~/.ssh/ "192.168.1.$i":~/
     186 scp -r ~/.ssh/ "192.168.1.$i":~/
    185187 scp /etc/ssh/ssh_config "192.168.1.$i":/etc/ssh/ssh_config
    186188 ssh "192.168.1.$i" /etc/init.d/ssh restart
     
    190192 * 正確無誤則可免密碼登入
    191193
    192  === 3.2.1 dsh ===
     194=== 3.2.1 dsh ===
    193195 
    194196{{{
     
    203205}}}
    204206
    205  == 3.3 啟動 Hadoop  ==
     207== 3.3 啟動 Hadoop  ==
     208
    206209 * 啟動
    207210{{{
     
    210213$ bin/start-all.sh
    211214}}}
    212  == 3.4 Hadoop 測試範例 ==
     215
     216== 3.4 Hadoop 測試範例 ==
     217
    213218 * 運作WordCount以測試
    214219{{{
     
    261266}}}
    262267== 3.6 重新建立 hadoop ==
     268
    263269{{{
    264270$ bin/stop-all.sh
     
    267273$ bin/start-all.sh
    268274}}}
    269 == 參考 ==
     275
     276= 四、參考資料 ==
    270277
    271278 * [http://trac.nchc.org.tw/grid/wiki/jazz/DRBL_Hadoop Jazz: DRBL_Hadoop ]
    272279 * [http://trac.nchc.org.tw/cloud/wiki/MR_manual Hadoop手冊]
    273280
    274 == 問題排解 ==
     281= 五、問題排解 ==
    275282
    276283 * drbl似乎安裝不順
     
    287294> [[Image(debian_4.0r6_drbl.jpg)]]
    288295
    289  ps: 原因為 apt 的鏡像站台沒有複製到資料因此無法安裝新kernel,導致出現問題
     296>> 原因: apt 的鏡像站台沒有複製到資料因此無法安裝新kernel,導致出現問題