這篇文章主要介紹了使用Bucardo5實現(xiàn)PostgreSQL的主數(shù)據(jù)庫復制,作者基于AWS給出演示,需要的朋友可以參考下

下一代異步多個主數(shù)據(jù)庫復制系統(tǒng)Bucardo 5發(fā)布了。這個版本刪除了老版本中兩個數(shù)據(jù)庫源的限制，允許有更多的源數(shù)據(jù)庫(即主數(shù)據(jù)庫)以及更多的目標數(shù)據(jù)庫(即備份數(shù)據(jù)庫)。Bucardo還可以復制到其他類型的目標數(shù)據(jù)庫，其中包括MySQL、MariaDB、Oracle、SQLite、MongoDB和Redis。Bucardo已經(jīng)被完全重寫了，這個版本比前一版本Bucardo 4功能更強大，效率更高。你可以訪問Bucardo wiki查找最新版本的Bucardo。

這篇文章快速的介紹了一下Bucardo。以后的博客文章將會介紹Bucardo的強大功能，現(xiàn)在我們將介紹如何簡單地實現(xiàn)多主數(shù)據(jù)庫復制。

為了演示方便，我使用了亞馬遜Web服務(wù)(AWS)提供的可快速創(chuàng)建、隨意使用的服務(wù)器，即運行Amazon Linux的基本t1.micro服務(wù)器。如果你按照提示繼續(xù)的話，它將免費而且簡單地給你創(chuàng)建一個服務(wù)器實例。一旦實例創(chuàng)建成功，我們就可以使用ec2-user賬戶通過SSH協(xié)議登陸到服務(wù)器，這時就可以開始安裝PostgreSQL和Bucardo了。

1. # Always a good idea: 
2. $ sudo yum update 
3. # This also installs other postgresql packages: 
4. $ sudo yum install postgresql-plperl 
5. # Create a new Postgres cluster: 
6. $ initdb btest 

此時，我們?nèi)匀徊荒芷诖赌銈€PostgreSQL，因為這個發(fā)布版的socket通信目錄使用的是/var/run/postgresql和/tmp。我們調(diào)整了第一個目錄的權(quán)限后就可以啟動PostgreSQL了，然后創(chuàng)建第一個測試數(shù)據(jù)庫：

1. $ sudo chmod 777 /var/run/postgresql 
2. $ pg_ctl -D btest -l logfile start 
3. $ createdb shake1 

接下來我們就可以進行數(shù)據(jù)庫復制了!為了得到樣例數(shù)據(jù)，我使用了開放源代碼的Shakespeare項目。它有一個易于裝載的小型的、可任意使用的、簡單的數(shù)據(jù)庫模式。github上的這個小型項目就包含了一個現(xiàn)成的PostgreSQL數(shù)據(jù)庫模式，現(xiàn)在我們將可以把它裝載到新的數(shù)據(jù)庫了:

1. $ sudo yum install git 
2. $ git clone -q https://github.com/catherinedevlin/opensourceshakespeare.git 
3. $ psql shake1 -q -f opensourceshakespeare/shakespeare.sql 
4. # You can safely ignore the 'role does not exist' errors 

我們打算創(chuàng)建這個數(shù)據(jù)庫的副本，這些副本可被當作其他數(shù)據(jù)源。換個說法，這些服務(wù)器擁有相同的數(shù)據(jù)而且可以寫入。實現(xiàn)這些非常簡單：

1. $ createdb shake2 -T shake1 
2. $ createdb shake3 -T shake1 

Bucardo需要安裝一些依賴包。如果你安裝的操作系統(tǒng)發(fā)布不同，那么你可能要安裝的依賴包就不同：下面是我寫這篇文章的時候Amazon Linux需要安裝的依賴包。(如果幸運的話，你的發(fā)布包可能已經(jīng)包含了Bucardo，在這種情況下，下面的執(zhí)行步驟就不需要執(zhí)行了，你只要運行"yum install bucard"就可以了-不過要確定一下你使用的是版本5或者更好的版本!(通過yum info bucardo查看))

1. $ sudo yum install perl-ExtUtils-MakeMaker perl-DBD-Pg / 
2. > perl-Encode-Locale perl-Sys-Syslog perl-boolean / 
3. > perl-Time-HiRes perl-Test-Simple perl-Pod-Parser 
4. $ sudo yum install cpan 
5. $ echo y | cpan DBIx::Safe 

在這個系統(tǒng)的yum軟件倉庫里不包含Perl模塊DBIx::Safe，因此我們需要通過CPAN來安裝這個模塊。一旦上面的所有依賴都安裝成功，這時我們就準備安裝Bucardo。我們將獲取官方壓縮包，驗證、解壓，接著安裝：

1. $ wget -nv http://bucardo.org/Bucardo.tar.gz 
2. $ wget -nv http://bucardo.org/Bucardo.tar.gz.asc 
3. $ gpg -q --keyserver pgp.mit.edu --recv-key 14964AC8 
4. $ gpg --verify Bucardo.tar.gz.asc 
5. $ tar xfz Bucardo.tar.gz $ ln -s Bucardo-5.0.0 bucardo 
6. $ cd bucardo 
7. $ perl Makefile.PL 
8. $ make 
9. $ sudo make install 

我們對bucardorc文件(設(shè)置某些全局信息的文件)進行某些小的調(diào)整。然后運行"bucardo install",這條命令將創(chuàng)建bucardo的主數(shù)據(jù)庫，其中包含Bucardo服務(wù)進程所需的信息：

1. $ mkdir pid 
2. $ echo -e "piddir=pid/nlogdest=." > .bucardorc 
3. $ bucardo install --batch --quiet 
4. Creating superuser 'bucardo' 

現(xiàn)在已經(jīng)安裝好Bucardo,接下來就準備復制了。此時，我們有了三個可以彼此復制的數(shù)據(jù)庫。下面我們只使用了兩條命令就可以實現(xiàn)三數(shù)據(jù)庫彼此復制:

1. bucardo add dbs s1,s2,s3 dbname=shake1,shake2,shake3 
2. Added databases "s1","s2","s3" 
3. $ bucardo add sync bard dbs=s1:source,s2:source,s3:source tables=all 
4. Added sync "bard" 
5. Created a new relgroup named "bard" 
6. Created a new dbgroup named "bard" 
7. Added table "public.chapter" 
8. Added table "public.character" 
9. Added table "public.character_work" 
10. Added table "public.paragraph" 
11. Added table "public.wordform" 
12. Added table "public.work" 

第一條命令，我們告訴Bucardo如何連接到三個數(shù)據(jù)庫，我們告訴Bucardo數(shù)據(jù)庫的名字，然后Bucardo把這三個數(shù)據(jù)庫看作(s1,s2,s3)。你還可以指定端口和主機，不過在這個例子里，默認的端口為5432，而且不需要主機(采用的是Unix Socket通信機制)。

第二條命令創(chuàng)建了一個已命名的復制系統(tǒng)，其sync名稱為bard。Bucardo需要知道復制到哪兒和如何復制，因此我們告訴它使用三個數(shù)據(jù)庫s1,s2和s3。每一個數(shù)據(jù)庫都可以作為源數(shù)據(jù)庫，因此我們給它們添加了這樣的信息。最后我們需要知道要復制什么。在這個例子里，我們需要復制的是所有表(或者更精確點，復制具有主鍵或者唯一索引的所有數(shù)據(jù)庫)。注意: Bucardo總是把數(shù)據(jù)庫和表放在命名組里-在這個例子里我們只是硬編碼其為10，然而通常這個值是表格視圖控制器數(shù)組的長度?，F(xiàn)在例子里，這一切都是自動進行的，dbgroup和relgroup都是以sync的名字命名的。

我們驗證一下復制是否運行，即檢查一下更新行是否復制到sync里包含的所有數(shù)據(jù)庫了：

1. $ bucardo start 
2. $ psql shake1 -c / 
3. > "update character set speechcount=123 where charname='Hamlet'" 
4. UPDATE 1 
5. $ for i in {1,2,3}; do psql shake$i -tc "select / 
6. > current_database(), speechcount from character / 
7. > where charname='Hamlet'"; done | grep s 
8. shake1 | 123 
9. shake2 | 123 
10. shake3 | 123 

我們還可以查看Bucardo的日志文件"log.bucardo",看看是否有復制操作：

1. $ tail -2 log.bucardo 
2. (25181) KID (bard) Delta count for s1.public."character": 1 
3. (25181) KID (bard) Totals: deletes=2 inserts=2 conflicts=0 

上面出現(xiàn)了兩條delete和兩條insert命令，這是因為更新一行意味著在其他兩個數(shù)據(jù)庫上首先運行的是delete，然后才運行insert(技術(shù)上采用的COPY)。接下來我們看看Bucardo是怎么處理沖突的。我們將對所有服務(wù)器上的同一行進行更新，這樣就會產(chǎn)生沖突：

1. $ for i in {1,2,3}; do psql shake$i -tc / 
2. > "update character set speechcount=$i$i$i / 
3. > where charname='Hamlet'"; done 
4. UPDATE 1 
5. UPDATE 1 
6. UPDATE 1 

查看日志表明確實存在沖突，而且也很好的解決了沖突。默認的沖突解決方案表明：最后一個更新的數(shù)據(jù)庫是獲勝者，現(xiàn)在所有三個數(shù)據(jù)庫具有與最后一個更新數(shù)據(jù)庫相同的行。

1. $ tail log.bucardo 
2. (25181) KID (bard) Delta count for s1.public."character": 1 
3. (25181) KID (bard) Delta count for s2.public."character": 1 
4. (25181) KID (bard) Delta count for s3.public."character": 1 
5. (25181) KID (bard) Conflicts for public."character": 1 
6. (25181) KID (bard) Conflicts have been resolved 
7. (25181) KID (bard) Totals: deletes=2 inserts=2 conflicts=1 
8.  
9. $ for i in {1,2,3}; do psql shake$i -tc / 
10. > "select current_database(), speechcount / 
11. > from character where charname='Hamlet'"; done | grep s 
12. shake1 | 333 
13. shake2 | 333 
14. shake3 | 333 

我們開發(fā)這個示例的時候，Bucardo有時運行的非?？?，所以沒有發(fā)生沖突。也就是說，因為更新時順序執(zhí)行的。所以在下一個更新之前，存在一個時間窗口可以讓Bucardo完成更新的復制。另外，“暫停sync"功能也非常方便，只要在你需要暫時停止運行sync的情況下，運行下面命令即可：

1. $ bucardo pause bard 
2. Syncs paused: bard 
3. $ psql shake1 -c "update character set speechcount=1234 where charname='Hamlet'" 
4. UPDATE 1 
5. $ psql shake2 -c "update character set speechcount=4321 where charname='Hamlet'" 
6. UPDATE 1 
7. $ bucardo resume bard 
8. Syncs resumed: bard 
9.  
10. $ tail log.bucardo 
11. (27344) KID (bard) Delta count for s1.public."character": 1 
12. (27344) KID (bard) Delta count for s2.public."character": 1 
13. (27344) KID (bard) Conflicts for public."character": 1 
14. (27344) KID (bard) Conflicts have been resolved 
15. (27344) KID (bard) Totals: deletes=2 inserts=2 conflicts=1 

Bucardo 5比我們在這兒演示的功能多很多。以后的博客文章里我們將包含它可以完成的其他功能，從復制到比如Oracle、Mysql或者MongoDB等非PostgreSQL系統(tǒng)到使用自定義的沖突解決方案。以及復制時對正在運行的數(shù)據(jù)實行轉(zhuǎn)換。如果你有任何問題，請在下面的評論里說明，或者寫一封短信給Bucardo郵件列表bucardo-general@bucardo.org。

這么多年，如果沒有許多人貢獻代碼、提出漏洞、測試Bucardo以及詢問(或者回答!)重大問題，就不可能有這個重大版本的發(fā)布。查看Changes文件，你就可以看到部分貢獻者的列表。謝謝你們所有人，特別感謝Jon Jensen,是他在很久之前就開啟了這個項目。