wiki:jazz/09-06-06

2009-06-06

  • 排解 Hadoop 實驗叢集磁碟空間不足的問題
    • [狀況] 當執行使用者的 Map/Reduce? 程式時,DRBL Server 的磁碟空間會使用到 100% 而出現 no space left 的訊息
    • [追蹤] 使用 watch -n 1 -d du -sh /var/lib/hadoop 追出 mapreduce 目錄下的 jobcache 計算時會不斷長大。
    • [解法] 本來 DRBL Hadoop 只有掛載 Client 硬碟到 /var/lib/hadoop/cache/hadoop/dfs/data,由這個使用案例來看,我們應該要掛載到 /var/lib/hadoop 也就是同時給 DFS 跟 MapReduce 用。
  • HADOOP-FAQ1 : 使用 ntpdate 更新時間後,Datanode 與 Tasktracker 部分離線。
    • 因為 Hadoop 會有 heartbeat 檢查,因此如果跑 ntpdate 後,時間差距太大,會造成系統誤判 Datanode 與 Tasktracker 為 Dead Node。
  • HADOOP-FAQ2 : 如何取消 Hadoop Namenode 的 Safe mode
    • [狀況] Tasktracker 無法正常加入,log 顯示 namenode 處於 safe mode。
    • [參考] Re: Safe mode is ON
    • [解法] 確認 Datanode 已加入,然後使用指令離開 Safe Mode
      sudo su -s /bin/sh hadoop -c "hadoop dfsadmin -safemode leave"
      

Open Source

Debian

Cloud Computing

Web Service

Web Service : Firebug

Green Computing

Mobile Computing : Fast Boot

Last modified 16 years ago Last modified on Jun 6, 2009, 8:43:52 PM