Changes between Version 21 and Version 22 of jazz/Hadoop_Lab3


Ignore:
Timestamp:
Mar 28, 2009, 11:36:49 AM (15 years ago)
Author:
waue
Comment:

--

Legend:

Unmodified
Added
Removed
Modified
  • jazz/Hadoop_Lab3

    v21 v22  
    1717 * 這個實做會架設運作在叢集環境上的Hadoop,因此若是你的電腦還存在著之前的實做一的環境,請先作step 0,以移除掉之前的設定。
    1818
    19  * 以下node01代表你Node 1 的ip位址,node02為你Node 2 的ip位址,請查清楚之後作設定
     19 * 以下pc001代表你Node 1 的ip位址,pc002為你Node 2 的ip位址,請查清楚之後作設定
    2020 
    2121 * 為了簡化操作步驟,'''大部分的指令在Node 1 執行即可,不過step2 的安裝java則需要在Node 2 上實機操作喔!'''
     
    5050{{{
    5151~$ sudo su -
    52 ~# echo "192.168.100.1 node01" >> /etc/hosts
    53 ~# echo "192.168.100.2 node02" >> /etc/hosts
     52~# echo "192.168.100.1 pc001" >> /etc/hosts
     53~# echo "192.168.100.2 pc002" >> /etc/hosts
    5454}}}
    5555
     
    6969~$ ssh-keygen -t rsa -f ~/.ssh/id_rsa -P ""
    7070~$ cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys
    71 ~$ scp -r ~/.ssh node02:~/
    72 ~$ ssh node02
     71~$ scp -r ~/.ssh pc002:~/
     72~$ ssh pc002
    7373~$ alias ssh='ssh -o "StrictHostKeyChecking no"'
    74 ~$ ssh node01
     74~$ ssh pc001
    7575~$ exit
    7676~$ exit
     
    137137  <property>
    138138    <name>fs.default.name</name>
    139     <value>hdfs://node01:9000/</value>
     139    <value>hdfs://pc001:9000/</value>
    140140    <description> </description>
    141141  </property>
    142142  <property>
    143143    <name>mapred.job.tracker</name>
    144     <value>node02:9001</value>
     144    <value>pc002:9001</value>
    145145    <description>  </description>
    146146  </property>
     
    153153}}}
    154154   * 注意! 我們多加了一個參數hadoop.tmp.dir,讓預設的中介資料存放在/tmp/hadoop/ 而不是/tmp/ 下,更多內容可以看conf/hadoop-default.xml
    155    * 注意!fs.default.name = hdfs://node01:9000/ ;而mapred.job.tracker = node02:9001,看出差異了嗎!一個有指hdfs://,一個沒有,重要!易混淆。
     155   * 注意!fs.default.name = hdfs://pc001:9000/ ;而mapred.job.tracker = pc002:9001,看出差異了嗎!一個有指hdfs://,一個沒有,重要!易混淆。
    156156   
    157157 == step 6. 設定masters及slaves ==
     
    165165{{{
    166166#!sh
    167 node01
    168 node02
     167pc001
     168pc002
    169169}}}
    170170
     
    173173 * 在Node 1 上對遠端Node 2 作開資料夾/opt/hadoop及權限設定
    174174{{{
    175 /opt/hadoop$ ssh node02 "sudo mkdir /opt/hadoop"
    176 /opt/hadoop$ ssh node02 "sudo chown -R hadooper:hadooper /opt/hadoop"
     175/opt/hadoop$ ssh pc002 "sudo mkdir /opt/hadoop"
     176/opt/hadoop$ ssh pc002 "sudo chown -R hadooper:hadooper /opt/hadoop"
    177177}}}
    178178
    179179 * 複製Node 1 的hadoop資料夾到Node 2 上
    180180{{{
    181 /opt/hadoop$ scp -r /opt/hadoop/* node02:/opt/hadoop/
     181/opt/hadoop$ scp -r /opt/hadoop/* pc002:/opt/hadoop/
    182182}}}
    183183
     
    196196/************************************************************
    197197STARTUP_MSG: Starting NameNode
    198 STARTUP_MSG:   host = node02
     198STARTUP_MSG:   host = pc002
    199199STARTUP_MSG:   args = [-format]
    200200STARTUP_MSG:   version = 0.18.3
     
    20820809/03/23 20:19:47 INFO dfs.NameNode: SHUTDOWN_MSG:
    209209/************************************************************
    210 SHUTDOWN_MSG: Shutting down NameNode at node02
     210SHUTDOWN_MSG: Shutting down NameNode at pc002
    211211************************************************************/
    212212}}}
     
    224224
    225225------
    226    * http://node01:50070/ - Hadoop DFS 狀態
     226   * http://pc001:50070/ - Hadoop DFS 狀態
    227227   * [[Image(datanode.png)]]
    228228------
    229229   
    230    * ps: 然而JobTracker還沒啟動,因此 http://node02:50030/ 網頁無法顯示
     230   * ps: 然而JobTracker還沒啟動,因此 http://pc002:50030/ 網頁無法顯示
    231231
    232232 * bin/start-mapred.sh腳本會參照jobtracker上${HADOOP_CONF_DIR}/slaves文件的內容,在所有列出的slave上啟動tasktracker。
     
    235235   
    236236{{{
    237 /opt/hadoop$ ssh node02 "/opt/hadoop/bin/start-mapred.sh"
     237/opt/hadoop$ ssh pc002 "/opt/hadoop/bin/start-mapred.sh"
    238238}}}
    239239
    240240 * 啟動之後, jobtracker也正常運作囉!
    241241------
    242    * http://node02:50030/ - Hadoop 管理介面
     242   * http://pc002:50030/ - Hadoop 管理介面
    243243   * [[Image(job.png)]]
    244244------