Changes between Version 17 and Version 18 of waue/Hadoop_DRBL
- Timestamp:
- Feb 27, 2009, 3:01:24 PM (16 years ago)
Legend:
- Unmodified
- Added
- Removed
- Modified
-
waue/Hadoop_DRBL
v17 v18 7 7 * 由於DRBL為無碟系統,並非一般的Cluster,因此有些地方需要注意。 8 8 9 = = 零、環境說明 ==9 = 零、環境說明 = 10 10 11 11 環境中共有七台機器,一台為drbl server,也是hadoop的namenode,其他節點則client 與datanode,如下: … … 28 28 = 一、安裝 = 29 29 30 == 1.1 安裝drbl == 30 == 1.1 安裝drbl == 31 31 32 * 詳見 [http://drbl.nchc.org.tw/one4all/desktop/ DRBL的安裝] 32 33 33 34 == 1.2 安裝 java 6 == 34 35 35 36 * 在套件庫裡 /etc/apt/sources.list 加入 non-free 庫以及 backports 網址才能安裝 sun-java6 … … 50 51 }}} 51 52 52 53 == 1.3 安裝 Hadoop 0.18.3 == 53 54 54 55 {{{ … … 59 60 }}} 60 61 61 62 = 二、設定 Hadoop = 62 63 63 64 * 在 /etc/bash.bashrc 的最末加入 以下資訊 … … 141 142 }}} 142 143 143 144 = 三、操作 = 144 145 145 == 3.1 開啟DRBL Client == 146 == 3.1 開啟DRBL Client == 147 146 148 * 將所有的 client 開啟,並且如下 147 149 {{{ … … 151 153 | DRBL SERVER | 152 154 | | 153 | +-- [eth2] 140.110. xxx.130|+- to WAN155 | +-- [eth2] 140.110.X.X +- to WAN 154 156 | | 155 | +-- [eth1] 192.168.1.254 +- to clients group 1 [ 6 clients, their IP157 | +-- [eth1] 192.168.1.254 +- to clients group 1 [ 6 clients, their IP 156 158 | | from 192.168.1.2 - 192.168.1.7] 157 159 +------------------------------+ … … 161 163 }}} 162 164 163 165 == 3.2 設定ssh == 164 166 165 167 * 編寫 /etc/ssh/ssh_config … … 182 184 for ((i=2;i<=7;i++)); 183 185 do 184 scp scp-r ~/.ssh/ "192.168.1.$i":~/186 scp -r ~/.ssh/ "192.168.1.$i":~/ 185 187 scp /etc/ssh/ssh_config "192.168.1.$i":/etc/ssh/ssh_config 186 188 ssh "192.168.1.$i" /etc/init.d/ssh restart … … 190 192 * 正確無誤則可免密碼登入 191 193 192 194 === 3.2.1 dsh === 193 195 194 196 {{{ … … 203 205 }}} 204 206 205 == 3.3 啟動 Hadoop == 207 == 3.3 啟動 Hadoop == 208 206 209 * 啟動 207 210 {{{ … … 210 213 $ bin/start-all.sh 211 214 }}} 212 == 3.4 Hadoop 測試範例 == 215 216 == 3.4 Hadoop 測試範例 == 217 213 218 * 運作WordCount以測試 214 219 {{{ … … 261 266 }}} 262 267 == 3.6 重新建立 hadoop == 268 263 269 {{{ 264 270 $ bin/stop-all.sh … … 267 273 $ bin/start-all.sh 268 274 }}} 269 == 參考 == 275 276 = 四、參考資料 == 270 277 271 278 * [http://trac.nchc.org.tw/grid/wiki/jazz/DRBL_Hadoop Jazz: DRBL_Hadoop ] 272 279 * [http://trac.nchc.org.tw/cloud/wiki/MR_manual Hadoop手冊] 273 280 274 = =問題排解 ==281 = 五、問題排解 == 275 282 276 283 * drbl似乎安裝不順 … … 287 294 > [[Image(debian_4.0r6_drbl.jpg)]] 288 295 289 ps: 原因為apt 的鏡像站台沒有複製到資料因此無法安裝新kernel,導致出現問題296 >> 原因: apt 的鏡像站台沒有複製到資料因此無法安裝新kernel,導致出現問題