架設基于LINUX的服務器集群
2024-09-05 23:01:11
供稿：網友
1.什么是服務器集群
隨著Internet的爆炸性增長，Internet與人的生活越來越息息相關，通過 Internet上進行交易也就越來越受關注。近幾年，電子商務的年增長均超過100％。服務器的工作量也迅速增長，所以服務器（特別是一個受人歡迎的 WEB服務器）很容易在訪問高峰時期過載。
而另一方面，計算機從1946年單純的科學計算任務到現在大量紛繁復雜的信息處理，工作量越來越大，需要越來越快的處理能力。所以計算機界就不得不不斷研究更快的處理器，存儲器，以適應這一需求。
然而，科學家們意識到，單塊處理器的速度發展空間是有限的，為什么不能讓計算機象人一樣協同工作，“群策群力”地將工作完成好呢！這時，就掀起了“并行計算”的研究。
舉個例子來說，我們架設了一臺WWW服務器，上面構建了一個電子商務網站，然而隨著時間的推移，名聲越來越大，這時點擊率也就越來越高，WWW服務器的負載也就越來越高。這種情況下，我們就必須提升WWW服務器的能力，以滿足以益增長的服務請求。這時，我們就面臨兩種選擇：
1）升級WWW服務器，采用更快的CPU，增加更多的內存，使其更具有POWER；但日益增長的服務請求又會使服務器再次過載，需要再次升級，這樣就陷入了升級的怪圈。還有，升級時還得考慮到服務如何接續，能否中止！
2）增加WWW服務器，讓多臺服務器來完成相同的服務。
這種方法就是服務器集群，通過并行技術來大大提升系統性能。也就是這一章的主要內容，這種方法具有很好的擴展性，而且可以最大限度地利用已有投資。
1.1.集群的概念
集群，是一組獨立的計算機系統構成一個松耦合的多處理器系統，它們之間通過網絡實現進程間的通信。應用程序可以通過網絡共享內存進行消息傳送，實現分布式計算機。
近幾年來，微處理器、內存、總線技術、網絡技術有了非常大的進步，軟件的并行技術也有了非常大的進步，這使得讓一組廉價的個人電腦與工作站協同工作成為可能，甚至可以與擁有強大的芯片處理能力的超級計算機競爭。
比如，16個普通微處理器組成的集群系統可以達到億次級浮點計算機能力，而且總的成本小于40萬元。
不幸的是，建造一個集群并不是一件簡單的事件。集群的組成部分必須根據要運行的主要應用進行調整，以使之運行在最佳狀態。這此因素帶來的結果就是，建造集群系統不是只有一個標準的方案，在本章中，我們就會看到許多種建造方案。
集群技術是計算機系統結構的前沿領域，筆者也僅是略有了解，希望本文能起到拋磚引玉之用。
1.2.并行技術
這是一個非常簡單的建造四節點的小集群系統的例子，它是構建在Linux操作系統上，通過MPICH軟件包實現的，希望這個小例子能讓大家對集群系統的構建有一個最基本的了解。
2.使用MPICH構建一個四節點的集群系統
這是一個非常簡單的建造四節點的小集群系統的例子，它是構建在Linux操作系統上，通過MPICH軟件包實現的，希望這個小例子能讓大家對集群系統的構建有一個最基本的了解。
2.1 所需設備
1).4臺采用Pentium II處理器的PC機，每臺配置64M內存，2GB以上的硬盤，和EIDE接口的光盤驅動器。
2).5塊100M快速以太網卡，如SMC 9332 EtherPower 10/100（其中四塊卡用于連接集群中的結點，另外一塊用于將集群中的其中的一個節點與其它網絡連接。）
3).5根足夠連接集群系統中每個節點的，使用5類非屏蔽雙絞線制作的RJ45纜線
4).1個快速以太網(100BASE-Tx)的集線器或交換機
5).1張Linux安裝盤
2.2 構建說明
對計算機硬件不熟的人，實施以下這些構建步驟會感到吃力。如果是這樣，請找一些有經驗的專業人士尋求幫助。
1. 準備好要使用的采用Pentium II處理器的PC機。確信所有的PC機都還沒有接上電源，打開PC機的機箱，在準備與網絡上的其它設備連接的PC機上安裝上兩塊快速以太網卡，在其它的PC機上安裝上一塊快速以太網卡。當然別忘了要加上附加的內存。確定完成后蓋上機箱，接上電源。
2. 使用4根RJ45線纜將四臺PC機連到快速以太網的集線器或交換機上。使用剩下的1根RJ45線將額外的以太網卡（用于與其它網絡相連的那塊，這樣機構就可以用上集群）連接到機構的局域網上（假定你的機構局域網也是快速以太網），然后打開電源。
3. 使用LINUX安裝盤在每一臺PC機上安裝。請確信在LINUX系統中安裝了C編譯器和C的LIB庫。當你配置TCP/IP時，建議你為四臺PC分別指定為192.168.1.1、192.168.1.2、192.168.1.3、192.168.1.4。第一臺PC為你的服務器節點（擁有兩塊網卡的那臺）。在這個服務器節點上的那塊與機構局域網相連的網卡，你應該為其指定一個與機構局域網吻合的IP地址。
4.當所有PC都裝好Linux系統后，編輯每臺機器的/etc/hosts文件，讓其包含以下幾行：
192.168.1.1 node1 server
192.168.1.2 node2
192.168.1.3 node3
192.168.1.4 node4
編輯每臺機器的/etc/hosts.equiv文件，使其包含以下幾行：
node1
node2
node3
node4
以下的這些配置是為了讓其能使用MPICH’s p4策略去執行分布式的并行處理應用。
1. 在服務器節點，建一個/mirror目錄，并將其配置成為NFS服務器，并在/etc/exports文件中增加一行：
/mirror node1(rw) node2(rw) node3(rw) node4(rw)
2. 在其他節點上，也建一個/mirror目錄，關在/etc/fstab文件中增加一行：
server:/mirror /mirror nfs rw,bg,soft 0 0
3. /mirror這個目錄從服務器上輸出，裝載在各個客戶端，以便在各個節點間進行軟件任務的分發。
4. 在服務器節點上，安裝MPICH。MPICH的文檔可在
http://www.mcs.anl.gov/mpi/mpich/docs.html獲得。
5. 任何一個集群用戶（你必須在每一個節點新建一個相同的用戶），必須在/mirror目錄下建一個屬于它的子目錄，如/mirror/username，用來存放MPI程序和共享數據文件。這種情況，用戶僅僅需要在服務器節點上編譯MPI程序，然后將編譯后的程序拷貝到在/mirror目錄下屬于它的的子目錄中，然后從他在/mirror目錄下屬于它的的子目錄下使用p4 MPI策略運行MPI程序。
2.3 MPICH安裝指南
1. 如果你有gunzip，就d下載mpich.tar.gz，要不然就下載mpich.tar.Z。你可以到http: //www.mcs.anl.gov/mpi/mpich/downloa下載，也可以使用匿名FTP到ftp.mcs.anl.gov的pub/mpi 目錄拿。（如果你覺得這個東西太大，你可以到pub/mpi/mpisplit中取分隔成塊的幾個小包，然后用cat命令將它們合并）
2.解壓：gunzip ;c mpich.tar.gz |tar xovf-（或zcat mpich.tar.Z|tar xovf-）
3.進入mpich目錄
4.執行：./configure為MPICH選擇一套適合你的實際軟硬件環境的參數組，如果你對這些默認選擇的參數不滿意，可以自己進行配置（具體參見MPICH的配置文檔）。最好選擇一個指定的目錄來安裝和配置MPICH，例如：
./configure -prefix=/usr/local/mpich-1.2.0
5.執行：make >& make.log 這會花一段較長的時間，不同的硬件環境花的時間也就不同，可能從10分鐘到1個小時，甚至更多。
6. （可選）在工作站網絡，或是一臺單獨的工作站，編輯mpich/util/machines/machines.xxx（xxx是MPICH對你機器體系結構取的名稱，你能很容易的認出來）以反映你工作站的當地主機名。你完全可以跳過這一步。在集群中，這一步不需要。
7.（可選）編譯、運行一個簡單的測試程序：
cd examples/basic
make cpi
ln ;s ../../bin/mpirun mpirun
./mpirun ;np 4 cpi
此時，你就在你的系統上運行了一個MPI程序。
8.（可選）構建MPICH其余的環境，為ch_p4策略使用安全的服務會使得任何啟動速度加快，你可以執行以下命令構建：
make serv_p4
(serv_p4是一個較新的P4安全服務的版本，它包含在MPICH 1.2.0版中)，nupshot程序是upshot程序的一個更快版本，但他需要tk 3.6版的源代碼。如果你有這個包，你就用以下命令可以構建它：
make nupshot
9.（可選）如果你想將MPICH安裝到一個公用的地方讓其它人使用它，你可以執行：
make install 或 bin/mpiinstall
你可以使用-prefix選項指定MPICH安裝目錄。安裝后將生成include、lib、bin、sbin、www和man目錄以及一個小小的示例目錄，
（可選）到此你可以通告所有的用戶如何編譯、執行一個MPI程序。
2.4 費用統計
這個小的集群方案總的費用大致如下：
設備費用：
4臺 Pentium II CPU /64MB內存, 2GB的硬盤帶EIDE CD-ROM 的機器： 24000元
5塊快速以太網卡： 800元
1個快速以太網的集線機：2000元
5根雙絞線：50元
軟件費用：
LINUX安裝光盤：50元
MPICH：0元
合計：26900元。
這樣一個集群系統可以用于一些大量的科學計算，信息處理，而且其性價比實在是太好了，僅需不到三萬元。
