Changes between Initial Version and Version 1 of Hinet120702


Ignore:
Timestamp:
Jul 2, 2012, 1:36:30 AM (12 years ago)
Author:
jazz
Comment:

--

Legend:

Unmodified
Added
Removed
Modified
  • Hinet120702

    v1 v1  
     1{{{
     2#!html
     3<div style="text-align: center;"><big
     4 style="font-weight: bold;"><big><big>雲端平台Hadoop與MapReduce實作基礎班</big></big></big></div>
     5}}}
     6[[PageOutline]]
     7
     8= 預備知識 =
     9
     10 * 具 Linux 操作實務與 Java 程式語言基礎者尤佳。
     11
     12= 課程日期 =
     13
     14 * 101年07月02日~07月03日,共 2 天、計 12 小時 。
     15
     16= 課程內容 =
     17
     18 * [raw-attachment:wiki:III120526:12-05-26_Big_Data_and_Hadoop.pdf 完整版投影片]
     19
     20== '''2012-07-02(一)''' ==
     21
     22 || 上午時段 || 課程內容 || 投影片 || 實作 || 補充資料 ||
     23 || 09:00~10:00 || 淺談海量資料的趨勢、挑戰與因應對策 || [raw-attachment:wiki:III120526:part-1.pdf part-1] || || ||
     24 || 10:00~11:00 || 處理海量資料的資訊架構與關鍵技術 || [raw-attachment:wiki:III120526:part-2.pdf part-2] || || ||
     25 || 11:00~11:10 || 中場休息 || || || ||
     26 || 11:10~12:00 || 實作一:Hadoop 單機安裝 || || [wiki:III120526/Lab1 實作一][[BR]][wiki:III120526/Lab2 實作二] || ||
     27 || 12:00~13:00 || 午餐、午休 || || || ||
     28 || 下午時段 || 課程內容 || 投影片 || 實作 || 補充資料 ||
     29 || 13:00~14:20 || Hadoop 簡介:緣起與術語 || [raw-attachment:wiki:III120526:part-3.pdf part-3] || || ||
     30 || 14:20~15:30 || HDFS 觀念與指令解說 || [raw-attachment:wiki:III120526:part-4.pdf part-4] || || ||
     31 || 15:30~15:40 || 中場休息 || || || ||
     32 || 15:40~16:30 || 實作二:HDFS 操作實務 || || [wiki:III120526/Lab3 實作三][[BR]][wiki:III120526/Lab4 實作四] || ||
     33 || 16:30~17:00 || 實務需求問題討論 || || || 1. Hadoop 單機安裝(Windows) [[BR]] 2. Hadoop 單機安裝(Ubuntu Linux) [[BR]] 3. Hadoop 單機安裝(Linux,偽分散式) [[BR]] 4. Hadoop 叢集安裝 [[BR]] 5. HDFS 異地備援 [[BR]] 6. Hadoop 與虛擬化環境的注意事項(SAN, RAID, iSCSI, AoE) [[BR]] 7. Hadoop 現有教育訓練與證照 [[BR]] 8. Hadoop 相關應用(搜尋引擎, 生物資訊) ||
     34
     35== '''2012-07-03(二)''' ==
     36
     37 || 上午時段 || 課程內容 || 投影片 || 實作 || 補充資料 ||
     38 || 09:00~10:30 || MapReduce 簡介 || [raw-attachment:wiki:III120526:part-5.pdf part-5] || || ||
     39 || 10:30~10:40 || 中場休息 || || || ||
     40 || 10:40~11:10 || 實作三:MapReduce 範例操作 || || [wiki:III120526/Lab5 實作五][[BR]][wiki:III120526/Lab6 實作六] || ||
     41 || 11:10~11:30 || Hadoop 叢集安裝設定解說 || [raw-attachment:wiki:III120526:part-6.pdf part-6] || || ||
     42 || 11:30~12:00 || 實作四:Hadoop 程式編譯實務 || || [wiki:III120526/Lab7 實作七][[BR]][wiki:III120526/Lab8 實作八] || ||
     43 || 下午時段 || 課程內容 || 投影片 || 實作 || 補充資料 ||
     44 || 13:00~13:30 || Hadoop 相關專案(1) Hadoop Streaming || [raw-attachment:wiki:III120526:part-7.pdf part-7] || || ||
     45 || 13:30~14:00 || 實作五:Hadoop Streaming 操作練習 || || [wiki:III120526/Lab9 實作九][[BR]][wiki:III120526/Lab10 實作十] || ||
     46 || 13:40~14:50 || Hadoop 相關專案(2) - Pig || [raw-attachment:wiki:III120526:part-8.pdf part-8] || || ||
     47 || 14:50~15:10 || 實作六:Pig Latin 操作練習 || || [wiki:III120526/Lab11 實作十一] || ||
     48 || 15:10~15:20 || 中場休息 || || || ||
     49 || 15:20~15:50 || HBase 操作觀察 || || [wiki:III120526/Lab12 實作十二] || ||
     50 || 15:50~16:00 || 中場休息 || || || ||
     51 || 16:00~17:00 || Hadoop 示範應用 - 抓抓龍(Crawlzilla) || [raw-attachment:wiki:III120526:part-9.pdf part-9] || || ||
     52 ||  補充 || 實作七:抓抓龍安裝操作(示範) || || [wiki:III120526/Lab13 實作十三] || ||
     53 ||  補充 || Hadoop 示範應用 - 雲端入侵日誌分析系統(ICAS) || [raw-attachment:wiki:III120526:part-10.pdf part-10] || || ||
     54
     55= 參考資料 =
     56
     57 * Hadoop 常見應用領域:
     58   * [http://www-304.ibm.com/easyaccess/fileserve?contentid=217007 Data Intensive Analytics with Hadoop: A Look Inside]
     59   * 商業智慧
     60     * http://www.pentaho.com/ - Pentaho 這間 BI 公司是 Hadoop 技術的長期支持者
     61   * 金融業
     62     * 2010-10-12 : VISA 採用 Hadoop 做風險評估 - [http://www.slideshare.net/cloudera/hw09-large-scale-transaction-analysis HadoopWorld 2009 : Large Scale Transaction Analysis]
     63     * 中國信託
     64   * 電信業
     65     * 2011-06-12 : [http://www.ithome.com.tw/itadm/article.php?c=68023 中華電信用Hadoop技術分析通話明細]
     66   * 人力資源
     67     * [http://www.simplyhired.com/a/jobtrends/trend/q-xen%2C+hyper-v%2C+hbase%2C+hadoop SimplyHired 就業技能調查排行榜]
     68     * [http://www.indeed.com/jobtrends?q=xen%2C+hyper-v%2C+hbase%2C+hadoop&l= Indeed 就業技能調查排行榜]
     69   * 行銷趨勢
     70     * [http://www.eland.com.tw/solutions/opview_insight 意藍科技 雲端服務 OpView 品牌口碑雷達] - ([http://www.eland.com.tw/news/news/20100506 2010-05-06])
     71     * [http://www.i-buzz.com.tw/index.asp i-Buzz網路口碑研究中心]
     72   * 科學教育
     73     * 生資
     74       * [http://www.slideshare.net/mndoci/hadoop-for-bioinformatics Hadoop for Bioinformatics]
     75       * [http://cloudcomputing.sys-con.com/node/1869333 The Future of Hadoop in Bioinformatics]
     76       * [http://abhishek-tiwari.com/2010/08/mapreduce-and-hadoop-algorithms-in-bioinformatics-papers.html Mapreduce and Hadoop Algorithms in Bioinformatics Papers]
     77     * 統計
     78       * [https://mpi-inf.mpg.de/~rgemulla/publications/das10ricardo.pdf Ricardo: Integrating R and Hadoop]
     79       * [http://www.rhipe.org RHIPE: R and Hadoop Integrated Programming Environment]
     80
     81 * 免費課程 - 把類似今天的課程再聽一次
     82   * http://www.classcloud.org/media
     83 * Hadoop 進階程式設計相關資訊
     84   * [http://trac.nchc.org.tw/cloud/wiki/NCHCCloudCourse110721 雲端運算進階課程(一)@ 新竹 - Hadoop 進階程式設計與 HBase 資料庫整合實作]
     85   * [http://trac.nchc.org.tw/cloud/wiki/NCHCCloudCourse100928_2_IDE 編譯環境設定- 安裝 Eclipse 3.3.2 與 Hadoop 外掛程式]
     86   * [http://trac.nchc.org.tw/cloud/wiki/NCHCCloudCourse100928/Netbeans 安裝 Netbean 6.9.1 中文版與 KamaSphere Studio 外掛程式]
     87
     88= 課後練習 =
     89
     90 * 使用[http://trac.nchc.org.tw/cloud/wiki/Hadoop4Win Hadoop4Win] - 在 Windows 上安裝單機版 Hadoop 與 HBase 練習環境 ('''注意:僅供練習使用,請勿用於實際營運!''')
     91 * 使用 HBase 0.90 改寫以上範例 [http://trac.nchc.org.tw/cloud/wiki/waue/2011/0426  code example ]
     92 * [http://sourceforge.net/projects/drbl-hadoop/files/ DRBL-Hadoop Live CD] (CDH2, 0.20.x) - 國網中心 hadoop.nchc.org.tw 的底層作法,使用方法仍在整理中~但已足夠作為練習 Hadoop 的執行環境
     93 * 使用[http://www.cloudera.com/downloads/ Cloudera 提供的 VMWare Image] (CDH2, 0.20.x)
     94 * 使用[http://developer.yahoo.com/hadoop/tutorial/module3.html#vm Yahoo! Hadoop Tutorial 的 VMWare Image] (0.20.S)
     95 * 使用[http://code.google.com/intl/zh-TW/edu/parallel/tools/hadoopvm/index.html Google 提供的 Hadoop VMWare Image] (0.13,很舊了)
     96
     97= 公用環境 =
     98
     99 * 課後問題討論,建議優先至台灣 Hadoop 使用者討論區 http://forum.hadoop.tw 進行討論。
     100 * 需要 Hadoop 叢集環境,可至 http://hadoop.nchc.org.tw 申請帳號。
     101   * 申請步驟,請參閱[wiki:YMU110509/Lab1 截圖說明]
     102 * 關於公用叢集的幾個重要入口:
     103 * http://hadoop.nchc.org.tw - 實驗叢集入口網站
     104 * http://hadoop.nchc.org.tw/ganglia - 實驗叢集負載狀態
     105 * http://hadoop.nchc.org.tw:50030 - 實驗叢集正在執行與執行完畢的任務
     106 * http://hadoop.nchc.org.tw:50070 - 實驗叢集的硬碟空間狀態
     107 * http://hadoop.nchc.org.tw/hadoop-doc - Hadoop 相關說明文件
     108 * http://hadoop.nchc.org.tw/hadoop-doc/api/index.html - Hadoop 0.20.2 javadoc 文件
     109
     110= 輔助工具 =
     111
     112 * [http://portableapps.com/apps/internet/firefox_portable/localization Firefox Portable (繁體中文版)]
     113 * [http://azo-freeware.blogspot.com/2009/08/zoomit-40.html ZoomIt (簡報放大鏡)]
     114
     115 * 中華電信 hicloud 帳務 - 02-23445568