wiki:NCTU100407
雲端運算核心技術 Hadoop 與 MapReduce 上機練習

    1. 2010-04-07 (三)
    2. 作業

2010-04-07 (三)

上午時段 課程內容 投影片 補充資料
13:30~14:00 Hadoop簡介 Part-01
14:10~14:30 Hadoop 安裝與設定解析 Part-02 - 單機 Windows 嚐鮮實驗環境 - Hadoop4Win
- ​Cloudera Hadoop 虛擬機器
14:30~15:00 HDFS 操作與 MapReduce 範例程式展示 Demo-01
Demo-02

作業

  • 題組一與題組二，請擇一作答。
  • 題組一：
    • 使用 Cloudera Hadoop VM 練習完成 inverse index 題目撰寫。
    • 標準題：因為有多數同學不熟悉 Java 程式語言，因此第一次作業主要以環境安裝、實作練習為主，請各位同學繳交實驗報告一份。(80%)
    • 加分題：以 Cloudera Hadoop VM 那一份待運算的資料，比較 inverse index 在單機虛擬機器的執行時間與在 21 台實驗環境上的執行時間。(20%)
    • 提示：開啟 Cloudera Hadoop VM 瀏覽器，選 exercise 的 inverse index，題目說明的最後一行有重要提示。
    • 參考報告格式：
      • 實驗步驟
      • 標準題結果：(1) shakespear 資料集跑 inverse index 執行結果前 20 筆；(2) 從 JobTracker 網頁（ ​http://localhost:50030 ）查詢執行時間。
      • 加分題結果：(1) shakespear 資料集跑 inverse index 執行結果前 20 筆；(2) 從 JobTracker 網頁（ ​http://hadoop.nchc.org.tw:50030 ）查詢執行時間。
    • 繳交時間：六月二日(三)
    • 繳交方式：以個人為單位，將報告 e-mail 至 jazz@…
  • 題組二：
    • 已知 java 語法中，extends 代表繼承自父類別，implement 代表實作某介面(Interface,類似 C++ 多重繼承)，請根據 WordCount 範例程式(wordcount.java)，繪製 UML 類別圖（參考下圖，實線代表繼承，虛線代表實作）。(20%) 註：繪製 UML 可以使用 ​Violet UML Editor
    • 以 hadoop 0.20.2 預設的 conf 目錄為輸入，使用 hadoop fs -put conf input 上傳檔案至 HDFS，請嘗試在 wordcount 範例程式中加入 system.out.println，並回答 map() 函數輸入的 key 內容為何？(20%)
    • 乘上題，根據 wordcount 執行過程，當單機執行時，請問同時有幾個 mapper 被執行？並請參考以下圖形，繪製單機運作時 mapper 與 reducer 運作順序。(20%)
    • 將 wordcount 範例移植到國網中心 hadoop.nchc.org.tw 上運行，請問同時有幾個 mapper 被執行？並請參考以下圖形，繪製單機運作時 mapper 與 reducer 運作順序。(20%)
    • 試根據單機執行與叢集執行的 JobTracker 網頁（ ​http://localhost:50030 & ​http://hadoop.nchc.org.tw:50030 ）查詢總執行時間，並比較兩者之時間差異。(20%)
    • 繳交時間：六月二日(三)
    • 繳交方式：以個人為單位，將報告 e-mail 至 jazz@…
Last modified 15 years ago Last modified on May 25, 2010, 8:22:21 AM

Attachments (3)

Download all attachments as: .zip