Changes between Initial Version and Version 1 of III140705/Lab1


Ignore:
Timestamp:
Jul 5, 2014, 8:21:51 AM (10 years ago)
Author:
jazz
Comment:

--

Legend:

Unmodified
Added
Removed
Modified
  • III140705/Lab1

    v1 v1  
     1◢  | <[wiki:III140705 回課程大綱]> ▲ | <[wiki:III140705/Lab2 實作二]> ◣
     2
     3= 實作一 Lab1 =
     4
     5{{{
     6#!html
     7<p style="text-align: center;"><big style="font-weight: bold;"><big>單機模式<br/>Local (Standalone) Mode</big></big></p>
     8}}}
     9[[PageOutline]]
     10{{{
     11#!text
     12請先連線至 nodeN.3du.me , N 為您的報名編號
     13}}}
     14
     15== STEP 0 : 確認實驗環境 ==
     16
     17 * 此次課程,將運行於 Ubuntu 12.04.2 LTS 版本。
     18 * 為了方便課程進行,將採用遠端的 Amazon EC2 VM 為主要實驗環境,將只能使用到 2014/04/13 23:00 為止。
     19 * 首先請連線至 https://nodeN.3du.me ,請將 N 更換為您的報名編號。
     20
     21 || '''帳號''' || ubuntu || '''密碼''' || 現場說明 ||
     22
     23 * 使用 PuTTY 登入 Amazon EC2 的[http://docs.aws.amazon.com/AWSEC2/latest/UserGuide/putty.html 官方說明文件]
     24 * 其次,為了讓大家未來可以持續做課程實作練習,也將分享如何申請 http://koding.com 的虛擬機器服務。
     25
     26== 下載 pietty ==
     27
     28 * 您可以使用自己慣用的 SSH Client 來做練習,這裡只是提供一個國人修改自 PuTTY 的中文化 SSH Client。
     29 * http://ntu.csie.org/~piaip/pietty/archive/pietty0327.exe
     30
     31== <補充> 拿 Ubuntu 12.04 Live CD 當自習環境 ==
     32
     33 * 備註:經測試 Ubuntu 12.04 Live CD 在虛擬機器環境下運行,需要__'''至少 3GB RAM '''__才能正常執行後續的實作!!
     34 * 若您是使用自己的 Ubuntu 12.04 Live CD 請先安裝 git
     35{{{
     36~$ sudo apt-get -y install git
     37}}}
     38
     39== STEP 1 : 從 github 取得本次課程的範例 ==
     40
     41{{{
     42~$ git clone https://github.com/jazzwang/hadoop_labs.git
     43}}}
     44
     45 * 您應該會看到類似底下的結果:
     46{{{
     47#!text
     48~$ git clone https://github.com/jazzwang/hadoop_labs.git                                                     
     49Cloning into 'hadoop_labs'...
     50remote: Counting objects: 249, done.
     51remote: Compressing objects: 100% (166/166), done.
     52remote: Total 249 (delta 115), reused 176 (delta 44)
     53Receiving objects: 100% (249/249), 53.64 KiB, done.
     54Resolving deltas: 100% (115/115), done.
     55}}}
     56 * 檢查是否有 hadoop_labs 目錄
     57{{{
     58~$ cd hadoop_labs/
     59~/hadoop_labs$ ls -al
     60}}}
     61
     62== STEP 2 : 執行安裝腳本 ==
     63
     64 * 首先, 我們來介紹 Hadoop 的三種安裝模式
     65 * <參考> http://hadoop.apache.org/docs/stable/single_node_setup.html
     66{{{
     67#!text
     68Now you are ready to start your Hadoop cluster in one of the three supported modes:
     69
     70  * Local (Standalone) Mode
     71  * Pseudo-Distributed Mode
     72  * Fully-Distributed Mode
     73}}}
     74
     75 * 開始動手吧~請剪貼以下的步驟:
     76{{{
     77~$ cd ~/hadoop_labs
     78~/hadoop_labs$ sudo apt-get -y install wget
     79~/hadoop_labs$ lab000/hadoop-local-mode
     80}}}
     81
     82 * 等待安裝的過程中,讓我們來講解 [https://raw.github.com/jazzwang/hadoop_labs/master/lab000/hadoop-local-mode hadoop-local-mode 這隻 Shell Script] 做了哪些事情。
     83   1. 安裝 Java Runtime Environment (JRE) 與 Java Development Kit (JDK) - 雖然目前 Oracle 已經釋出 JDK/JRE7,但 JDK/JRE 6 還是 Hadoop 開發者有經過大量測試驗證的版本。未來若要進行商業運轉,建議安裝 CDH4 或 HDP 搭配 JRE7。
     84   2. 下載 hadoop-$VERSION.tar.gz
     85   3. 解壓縮到 ${HOME}/hadoop
     86   4. 設定 ${HOME}/hadoop/conf.local/hadoop-env.sh
     87   5. 設定 ${HOME}/.bashrc 加入 PATH 環境變數
     88
     89 * 安裝完成,首先先讓我們觀察有幾個 java process
     90{{{
     91~/hadoop_labs$ jps
     92}}}
     93
     94 * 觀察有沒有開 port
     95{{{
     96~/hadoop_labs$ netstat -nap | grep java
     97}}}
     98
     99 * 讓我們來複習一下 HDFS 的基本操作
     100{{{
     101~/hadoop_labs$ cd ~
     102~$ ls
     103~$ source ~/.bashrc
     104~$ hadoop fs -ls
     105~$ hadoop fs -mkdir tmp
     106~$ hadoop fs -ls
     107~$ ls
     108~$ hadoop fs -put ${HOME}/hadoop/conf.local input
     109~$ hadoop fs -ls
     110~$ ls
     111}}}
     112
     113== 實作習題 ==
     114
     115 試回答以下問題:
     116
     117 1. 當您下 jps 指令之後,除了 jps 以外,看到幾個 java process ?
     118{{{
     119#!text
     120    (A) 0,只有 jps 一個結果
     121    (B) 1
     122    (C) 2
     123    (D) 3
     124    (E) 4
     125}}}
     126 2. 回到家目錄,執行 hadoop fs -ls 指令,您看到的結果跟直接下 ls 有無不同?
     127{{{
     128#!text
     129    (A) hadoop fs -ls 會顯示完整路徑,並將隱藏檔案也秀出來. ls 只會秀出一般的檔案
     130    (B) 顯示 can not access
     131}}}
     132 3. 在家目錄, 執行 hadoop fs -mkdir tmp 指令,對家目錄有何影響?
     133{{{
     134#!text
     135    (A) 在家目錄底下多了一個 tmp 目錄
     136    (B) 家目錄沒有任何改變
     137}}}