分布式設計與開發（三）------高一致性服務ZooKeeper

2019-11-14 15:24:20

字體：大中小

來源：轉載

供稿：網友

分布式環境中大多數服務是允許部分失敗，也允許數據不一致，但有些最基礎的服務是需要高可靠性，高一致性的，這些服務是其他分布式服務運轉的基礎，比如naming service、分布式lock等，這些分布式的基礎服務有以下要求：

高可用性
高一致性
高性能

對于這種有些挑戰CAP原則的服務該如何設計，是一個挑戰，也是一個不錯的研究課題，Apache的ZooKeeper也許給了我們一個不錯的答案。ZooKeeper是一個分布式的，開放源碼的分布式應用程序協調服務，它暴露了一個簡單的原語集，分布式應用程序可以基于它實現同步服務，配置維護和命名服務等。關于ZooKeeper更多信息可以參見官方文檔

ZooKeeper的基本使用

搭一個分布式的ZooKeeper環境比較簡單，基本步驟如下：

1）在各服務器安裝 ZooKeeper

下載ZooKeeper后在各服務器上進行解壓即可

tar -xzf zookeeper-3.2.2.tar.gz

2）配置集群環境

分別各服務器的zookeeper安裝目錄下創建名為zoo.cfg的配置文件，內容填寫如下：

[xhtml] view plaincopy

# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
dataDir=/home/admin/zookeeper-3.2.2/data
# the port at which the clients will connect
clientPort=2181
server.1=zoo1:2888:3888
server.2=zoo2:2888:3888

其中zoo1和zoo2分別對應集群中各服務器的機器名或ip，server.1和server.2中1和2分別對應各服務器的zookeeper id，id的設置方法為在dataDir配置的目錄下創建名為myid的文件，并把id作為其文件內容即可，在本例中就分為設置為1和2。其他配置具體含義可見官方文檔。

3）啟動集群環境

分別在各服務器下運行zookeeper啟動腳本

/home/admin/zookeeper-3.2.2/bin/zkServer.sh start

4）應用zookeeper

應用zookeeper可以在是shell中執行命令，也可以在java或c中調用程序接口。

在shell中執行命令，可運行以下命令：

bin/zkCli.sh -server 10.20.147.35:2181

其中 10.20.147.35為集群中任一臺機器的ip或機器名。執行后可進入zookeeper的操作面板，具體如何操作可見官方文檔

在java中通過調用程序接口來應用zookeeper較為復雜一點，需要了解watch和callback等概念，不過試驗最簡單的CURD倒不需要這些，只需要使用ZooKeeper這個類即可，具體測試代碼如下：

[java] view plaincopy

public static void main(String[] args) {
try {
ZooKeeper zk = new ZooKeeper("10.20.147.35:2181", 30000, null);
String name = zk.create("/company", "alibaba".getBytes(),
Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT_SEQUENTIAL);
Stat stat = new Stat();
System.out.PRintln(new String(zk.getData(name, null, stat)));
zk.setData(name, "taobao".getBytes(), stat.getVersion(), null, null);
System.out.println(new String(zk.getData(name, null, stat)));
stat = zk.exists(name, null);
zk.delete(name, stat.getVersion(), null, null);
System.out.println(new String(zk.getData(name, null, stat)));
} catch (Exception e) {
e.printStackTrace();
}
}

以上代碼比較簡單，查看一下zooKeeper的api doc就知道如何使用了

ZooKeeper的實現機理

ZooKeeper的實現機理是我看過的開源框架中最復雜的，它的解決是分布式環境中的一致性問題，這個場景也決定了其實現的復雜性?？戳藘扇斓脑创a還是有些摸不著頭腦，有些超出了我的能力，不過通過看文檔和其他高人寫的文章大致清楚它的原理和基本結構。

1）ZooKeeper的基本原理

ZooKeeper是以Fast Paxos算法為基礎的，在前一篇 blog 中大致介紹了一下paxos，而沒有提到的是paxos存在活鎖的問題，也就是當有多個 proposer交錯提交時，有可能互相排斥導致沒有一個proposer能提交成功，而Fast Paxos作了一些優化，通過選舉產生一個leader，只有leader才能提交propose，具體算法可見Fast Paxos 。因此，要想弄得ZooKeeper首先得對Fast Paxos有所了解。

2）ZooKeeper的基本運轉流程

ZooKeeper主要存在以下兩個流程：

選舉Leader
同步數據

選舉Leader過程中算法有很多，但要達到的選舉標準是一致的：

Leader要具有最高的zxid
集群中大多數的機器得到響應并follow選出的Leader

同步數據這個流程是ZooKeeper的精髓所在，并且就是Fast Paxos算法的具體實現。一個牛人畫了一個ZooKeeper數據流動圖，比較直觀地描述了ZooKeeper是如何同步數據的。

以上兩個核心流程我暫時還不能悟透其中的精髓，這也和我還沒有完全理解Fast Paxos算法有關，有待后續深入學習

ZooKeeper的應用領域

Tim在blog中提到了Paxos所能應用的幾個主要場景，包括database replication、naming service、config配置管理、access control list等等，這也是ZooKeeper可以應用的幾個主要場景。此外， ZooKeeper官方文檔中提到了幾個更為基礎的分布式應用，這也算是ZooKeeper的妙用吧

1）分布式Barrier

Barrier是一種控制和協調多個任務觸發次序的機制，簡單說來就是搞個閘門把欲執行的任務給攔住，等所有任務都處于可以執行的狀態時，才放開閘門。它的機理可以見下圖所示：

在單機上JDK提供了CyclicBarrier這個類來實現這個機制，但在分布式環境中JDK就無能為力了。在分布式里實現Barrer需要高一致性做保障，因此 ZooKeeper可以派上用場，所采取的方案就是用一個Node作為Barrer的實體，需要被Barrer的任務通過調用 exists()檢測這個Node的存在，當需要打開Barrier的時候，刪掉這個Node，ZooKeeper的watch機制會通知到各個任務可以開始執行。

2）分布式 Queue

與 Barrier類似分布式環境中實現Queue也需要高一致性做保障， ZooKeeper提供了一個種簡單的方式， ZooKeeper通過一個Node來維護Queue的實體，用其children來存儲Queue的內容，并且 ZooKeeper的create方法中提供了順序遞增的模式，會自動地在name后面加上一個遞增的數字來插入新元素?？梢杂闷?children來構建一個queue的數據結構，offer的時候使用create，take的時候按照children的順序刪除第一個即可。 ZooKeeper保障了各個server上數據是一致的，因此也就實現了一個分布式 Queue。take和offer的實例代碼如下所示：

[java] view plaincopy

/**
* Removes the head of the queue and returns it, blocks until it succeeds.
* @return The former head of the queue
* @throws NoSuchElementException
* @throws KeeperException
* @throws InterruptedException
*/
public byte[] take() throws KeeperException, InterruptedException {
TreeMap<Long,String> orderedChildren;
// Same as for element. Should refactor this.
while(true){
LatchChildWatcher childWatcher = new LatchChildWatcher();
try{
orderedChildren = orderedChildren(childWatcher);
}catch(KeeperException.NoNodeException e){
zookeeper.create(dir, new byte[0], acl, CreateMode.PERSISTENT);
continue;
}
if(orderedChildren.size() == 0){
childWatcher.await();
continue;
}
for(String headNode : orderedChildren.values()){
String path = dir +"/"+headNode;
try{
byte[] data = zookeeper.getData(path, false, null);
zookeeper.delete(path, -1);
return data;
}catch(KeeperException.NoNodeException e){
// Another client deleted the node first.
}
}
}
}
/**
* Inserts data into queue.
* @param data
* @return true if data was successfully added
*/
public boolean offer(byte[] data) throws KeeperException, InterruptedException{
for(;;){
try{
zookeeper.create(dir+"/"+prefix, data, acl, CreateMode.PERSISTENT_SEQUENTIAL);
return true;
}catch(KeeperException.NoNodeException e){
zookeeper.create(dir, new byte[0], acl, CreateMode.PERSISTENT);
}
}
}

3）分布式lock

利用 ZooKeeper實現分布式lock，主要是通過一個Node來代表一個Lock，當一個client去拿鎖的時候，會在這個Node下創建一個自增序列的 child，然后通過getChildren()方式來check創建的child是不是最靠前的，如果是則拿到鎖，否則就調用exist()來 check第二靠前的child，并加上watch來監視。當拿到鎖的child執行完后歸還鎖，歸還鎖僅僅需要刪除自己創建的child，這時 watch機制會通知到所有沒有拿到鎖的client，這些child就會根據前面所講的拿鎖規則來競爭鎖。

上一篇：java三種工廠模式

下一篇：內部類(innerclass)