[[PageOutline]]
{{{
#!html
實作四: Xen 虛擬化叢集進階操作(二)
}}}
= 【前言】 =
* 文中的 X 和 Y 請自行更換成合適的名稱 (ex. pcXXX -> pc212, 192.168.100.X -> 192.168.100.200)
* 環境要求:
* 已完成__'''實作一、二、三'''__ ( <1>安裝好 Xen、<2>安裝好 OpenNEbula 和 <3>pcXXX設定好 NFS-server <4>pcYYY掛載好NFS shared 目錄 )
* 環境目前並__'''無任何 VM 執行中'''__ (使用 onevm list 察看,再用 onevm shutdown 關掉)
* 軟體說明:
|| Host/dom0 OS || Ubuntu 9.04 Desktop (AMD64) ||
|| VM/Guest/dmoU OS || Debian lenny (AMD64) ||
|| MPICH2 || [http://www.cebacad.net/files/mpich2_1.1.1-1debian_amd64.deb 1.1.1-1](AMD64)||
* 指令說明:
|| '''onehost''' || OpenNEbula 的 host 管理指令 ||
|| '''onevm''' || OpenNEbula 的 guest/vm 管理指令 ||
|| '''onevnet''' || OpenNEbula 的 vnet 管理指令 ||
----
= 【Step 0: 流程】 =
* 本範例使用 OpenNEbula 開啟一個有 3 個 Nodes 的 Virtual MPI Cluster 在兩台實體機器上
{{{
$ onevm list
}}}
{{{
#!graphviz
digraph finite_state_machine {
rankdir=LR;
ranksep=0.3;
size="11,8";
node[shape=box,width=3.0];
"4.使用 OpenNEbula 開啟 Virtul MPI Cluster" -> "5.MPI 程式測試" ;
"1.建立基本 MPI Base System" -> "2. Clone MPI Base System" -> "3.編輯 Virtual MPI Cluster 設定檔";
}
}}}
----
= 【Step 1:建立基本 MPI Base System】 =
* 為了方便學員快速建置 MPI Virtual Cluster,可下載已做好的 Image (並將檔案放在 NFS 共享的路徑下)
{{{
$ cd /home/domains
$ scp clouder@pc-eth1:~/mpi01_fs.tar.bz2 .
$ tar jxvf mpi01_fs.tar.bz2
}}}
----
= 【Step 2:Clone MPI Base System】 =
* 製作 mpi02 & mpi03 的 image
{{{
$ sudo cp mpi01.disk.img mpi02.disk.img
$ sudo cp mpi01.disk.img mpi03.disk.img
}}}
* 修改 '''__(1)/etc/hostname (2)/etc/hosts (3)/etc/network/interfaces__'''
* 先修改 mpi01.disk.img
* 先掛載 image 於 /mnt
{{{
$ sudo mount mpi01.disk.img /mnt -o loop
}}}
{{{
$ sudo gedit /mnt/etc/hosts
}}}
{{{
#!sh
127.0.0.1 localhost
192.168.100.X mpi01
192.168.100.Y mpi02
192.168.100.Z mpi03
}}}
{{{
$ sudo gedit /mnt/etc/network/interfaces
}}}
{{{
#!sh
auto eth0
iface eth0 inet static
address 192.168.100.X
netmask 255.255.255.0
gateway 192.168.100.254
}}}
{{{
$ sudo umount /mnt
}}}
* 修改 mpi02.disk.img
{{{
$ sudo mount mpi02.disk.img /mnt -o loop
$ sudo gedit /mnt/etc/hostname
}}}
{{{
#!sh
mpi02
}}}
{{{
$ sudo gedit /mnt/etc/hosts
}}}
{{{
#!sh
127.0.0.1 localhost
192.168.100.X mpi01
192.168.100.Y mpi02
192.168.100.Z mpi03
}}}
{{{
$ sudo gedit /mnt/etc/network/interfaces
}}}
{{{
#!sh
auto eth0
iface eth0 inet static
address 192.168.100.Y
netmask 255.255.255.0
gateway 192.168.100.254
}}}
{{{
$ sudo umount /mnt
}}}
* 再修改 mpi03.disk.img
{{{
$ sudo mount mpi03.disk.img /mnt -o loop
$ sudo gedit /mnt/etc/hostname
}}}
{{{
#!sh
mpi03
}}}
{{{
$ sudo gedit /mnt/etc/hosts
}}}
{{{
#!sh
127.0.0.1 localhost
192.168.100.X mpi01
192.168.100.Y mpi02
192.168.100.Z mpi03
}}}
{{{
$ sudo gedit /mnt/etc/network/interfaces
}}}
{{{
#!sh
auto eth0
iface eth0 inet static
address 192.168.100.Z
netmask 255.255.255.0
gateway 192.168.100.254
}}}
{{{
$ sudo umount /mnt
}}}
----
= 【PS: 令用 onevnet 管理 IP (可省略)】 =
* 使用 onevent 來協助管理 IP 的分配
{{{
$ cd
$ sudo gedit network.one
}}}
{{{
#!sh
NAME = "Public"
TYPE = FIXED
BRIDGE = eth0
LEASES = [IP=192.168.100.X, MAC=XX:XX:XX:XX:XX:XX]
LEASES = [IP=192.168.100.Y, MAC=YY:YY:YY:YY:YY:YY]
LEASES = [IP=192.168.100.Z, MAC=ZZ:ZZ:ZZ:ZZ:ZZ:ZZ]
}}}
{{{
$ sudo onevnet create network.one
$ sudo onevnet list
$ sudo onevnet show Public
}}}
* 記的記下 VM 對應的 MAC 和 IP,到時編輯設定檔時會用到
----
= 【Step 3:編輯 Virtual MPI Cluster 設定檔】 =
* 編輯 OpenNEbual 的 Virtual MPI Cluster 設定檔
* 編輯 mpi01 的設定檔 (主要修改 NIC 的 IP 和 MAC)
{{{
$ gedit mpi01.one
}}}
{{{
#!sh
NAME = mpi01
CPU = 1
MEMORY = 128
OS = [ kernel = /boot/vmlinuz-2.6.26-2-xen-amd64,
initrd = /boot/initrd.img-2.6.26-2-xen-amd64,
root = sda2]
DISK = [ source = /home/domains/mpi01.disk.img,
clone = no,
target = sda2,
readonly = no]
DISK = [ type = swap,
size = 128,
target = "sda1",
readonly = "no" ]
NIC=[IP="192.168.100.X", MAC="XX:XX:XX:XX:XX:XX"]
}}}
* 編輯 mpi02 的設定檔 (主要修改 NIC 的 IP 和 MAC)
{{{
$ gedit mpi02.one
}}}
{{{
#!sh
NAME = mpi02
CPU = 1
MEMORY = 128
OS = [ kernel = /boot/vmlinuz-2.6.26-2-xen-amd64,
initrd = /boot/initrd.img-2.6.26-2-xen-amd64,
root = sda2]
DISK = [ source = /home/domains/mpi02.disk.img,
clone = no,
target = sda2,
readonly = no]
DISK = [ type = swap,
size = 128,
target = "sda1",
readonly = "no" ]
NIC=[IP="192.168.100.Y", MAC="YY:YY:YY:YY:YY:YY"]
}}}
* 再編輯 mpi03 的設定檔 (主要修改 NIC 的 IP 和 MAC)
{{{
$ gedit mpi03.one
}}}
{{{
#!sh
NAME = mpi03
CPU = 1
MEMORY = 128
OS = [ kernel = /boot/vmlinuz-2.6.26-2-xen-amd64,
initrd = /boot/initrd.img-2.6.26-2-xen-amd64,
root = sda2]
DISK = [ source = /home/domains/mpi03.disk.img,
clone = no,
target = sda2,
readonly = no]
DISK = [ type = swap,
size = 128,
target = "sda1",
readonly = "no" ]
NIC=[IP="192.168.100.Z", MAC="ZZ:ZZ:ZZ:ZZ:ZZ:ZZ"]
}}}
----
= 【Step 4:使用 OpenNEbula 開啟 Virtul MPI Cluster】 =
* 確認目前環境無其他 VM 正在執行,若是有其他 VM,可以用 onevm shutdown {vm_id} 或 onevm delete {vm_id} 來關掉或移除
* 開啟 Virtual MPI Cluster
{{{
$ onehost list
$ onevm list
$ onevm create mpi01.one
$ onevm create mpi02.one
$ onevm create mpi03.one
$ onevm list
}}}
* 若是狀態還在 pend,可以手動 deploy VM 到 pcXXX 或 pcYYY
{{{
$ onevm deploy mpi01 pcXXX
$ onevm deploy mpi02 pcYYY
$ onevm deploy mpi03 pcYYY
}}}
----
= 【Step 5:MPI 程式測試】 =
* 設定 MPI 環境的注意事項
* 須安裝 MPICH2 (本 Image 已預先安裝好了)
* 必須設定 clouder 的 ssh 免密碼登入 (Image 已預先做好了)
* /etc/hosts 必須有 mpi01、mpi02、mpi03的資訊
* 登入到 mpi01
{{{
$ ssh 192.168.100.X -l clouder
}}}
* 啟動 MPI 環境
{{{
$ mpdboot -n 3 -f mpd.hosts
$ mpdtrace
}}}
* 測試指令
{{{
$ mpiexec -n 3 hostname
}}}
* 測試 MPI 程式
{{{
$ mpicc -o cpi cpi.c
}}}
* 執行 MPI 程式
{{{
$ mpiexec -n 3 ./cpi
}}}
* 關閉所有的 VM
{{{
$ onevm shutdown mpi01
$ onevm shutdown mpi02
$ onevm shutdown mpi03
}}}