Changes between Version 56 and Version 57 of Hadoop4Win


Ignore:
Timestamp:
Apr 9, 2011, 11:29:48 AM (13 years ago)
Author:
jazz
Comment:

--

Legend:

Unmodified
Added
Removed
Modified
  • Hadoop4Win

    v56 v57  
    9090   * [[BR]][[Image(hadoop4win_03.jpg,width=600)]]
    9191
    92  * 接著批次程式將會把 Hadoop 單機版所需之 Java 開發環境 (JDK 1.6.0 update 18)、 Hadoop 0.20.2 與 HBase 0.20.4 壓縮檔拷貝至安裝目錄。若您下載的是網路安裝版本,會看到批次檔先從網路上下載三個壓縮檔,才開始安裝。
     92 * 接著批次程式將會把 Hadoop 單機版所需之 Java 開發環境 (JDK 1.6.0 update 18)、 Hadoop 0.20.2、 Ant 1.8.2 與 HBase 0.20.6 壓縮檔拷貝至安裝目錄 /usr/src。若您下載的是網路安裝版本,會看到批次檔先從網路上下載四個壓縮檔,才開始安裝。
    9393   * [[BR]][[Image(hadoop4win_04.jpg,width=600)]]
    9494
     
    107107   * [[BR]][[Image(hadoop4win_11.jpg,width=600)]]
    108108
     109 * 其次會解壓縮 Ant,並安裝至 /opt/ant 中。
    109110 * 最後會解壓縮 HBase,並進行單機版 HBase 的設定,當完成 HBase 安裝後,您會看到以下的畫面。
    110111   * [[BR]][[Image(hadoop4win_19.jpg,width=600)]]
     
    122123 * STEP 5 : 練習 HDFS 指令: 『__'''bin/hadoop fs -put <local file/dir> <HDFS file/dir>'''__』
    123124{{{
    124 $ bin/hadoop fs -put conf-org input
     125$ bin/hadoop fs -put conf-pseudo input
    125126}}}
    126127   * [[Image(hadoop4win_12.jpg,width=600)]]
     
    160161=== 測試 HBase 的步驟 ===
    161162
    162  * STEP 10 : 安裝完畢後,預設已先開啟 HBase 與 Hadoop 的 Daemon,因此可以直接執行 HBase 的測試。請回到家目錄,並輸入指令『__'''hbase shell hbase-test'''__』。註一:這個 hbase-test 存放在安裝帳號身分的家目錄中,倘若用其他帳號登入,可能會找不到。註二:如果剛剛有下 stop-hadoop 的話,一定要記得 start-hadoop,因為 HBase 的資料表格是存在 HDFS 之上。
     163 * STEP 10 : 安裝完畢後,預設已先開啟 HBase 與 Hadoop 的 Daemon,因此可以直接執行 HBase 的測試。請回到家目錄,並輸入指令『__'''hbase shell hbase-test'''__』。
     164 * 註一:這個 hbase-test 存放在安裝帳號身分的家目錄中,倘若用其他帳號登入,可能會找不到。
     165 * 註二:如果剛剛有下 stop-hadoop 的話,一定要記得 start-hadoop,因為 HBase 的資料表格是存在 HDFS 之上。
    163166{{{
    164167$ cd ~
     
    196199   * [[BR]][[Image(hadoop4win_27.jpg,width=600)]]
    197200
     201== 關閉視窗/電腦重開 ==
     202
     203 * [備註] 若需要重新啟動 Cygwin 環境,請至 C:\hadoop4win 目錄執行 cygwin.bat 批次檔
     204 * 當您重新開啟 Cygwin 時,並不會自動幫您執行 start-hadoop 與 start-hbase,請依您的使用需求自行啟動。
     205 * 當您關閉 Cygwin 視窗時,建議下 exit 指令,以觸發 stop-hbase 與 stop-hadoop 指令。若您直接關閉視窗,會造成 java 與 bash 執行程式遺留於背景中。此時,您可以使用 cmd.exe 並執行以下指令強制清除 java 執行程式。
     206{{{
     207taskkill /F /IM java.exe
     208taskkill /F /IM bash.exe
     209}}}
     210
    198211== 已知問題 ==
    199212
    200213 * [備註] 由於 Hadoop 0.20.2 的 HDFS 檢查比較嚴謹,因此單機狀態下,您會看到 http://localhost:50070 顯示『'''Safe Mode is ON'''』等字樣,代表 HDFS 目前是被封鎖住寫入權限,需等待至少 30 秒以後才會恢復正常。亦因此,http://localhost:50030 若剛開始沒有 Task Tracker 連上來,也是因為 HDFS 處於安全模式(Safe Mode)造成,須等 30 秒後切回正常模式才會連上。
    201214   * [[BR]][[Image(hadoop4win_18.jpg,width=600)]]
     215 * <解決方法> 若您執行完 start-hadoop 後,看到如上圖的情形,您可以使用以下指令強制離開 Safe Mode
     216{{{
     217$ /opt/hadoop/bin/hadoop dfsadmin -safemode leave
     218}}}
    202219
    203220 * 由於 Cygwin 的路徑並無法正常被 Hadoop 解析,亦即 Hadoop 經過 Windows OS 告知路徑為 C:\hadoop4win\opt\hadoop\ 但在 Cygwin 中卻為 \opt\hadoop。因此倘若您看到 File XXXX does not exist 的問題,可用 cygpath -w 指令把路徑轉變成 Windows 絕對路徑,就可以解決。例如:
     
    218235}}}
    219236   * [[BR]][[Image(hadoop4win_28.jpg,width=600)]]
    220 
    221  * [備註] 若需要重新啟動 Cygwin 環境,請至 C:\hadoop4win 目錄執行 cygwin.bat 批次檔