轉(zhuǎn)載自:http://www.cnblogs.com/hustcat/archive/2009/12/19/1627525.html
1、復(fù)制概述
1.1、復(fù)制解決的問題
數(shù)據(jù)復(fù)制技術(shù)有以下一些特點(diǎn):
(1) 數(shù)據(jù)分布
(2) 負(fù)載平衡(load balancing)
(3) 備份
(4) 高可用性(high availability)和容錯
1.2、復(fù)制如何工作
從高層來看,復(fù)制分成三步:
(1) master將改變記錄到二進(jìn)制日志(binary log)中(這些記錄叫做二進(jìn)制日志事件,binary log events);
(2) slave將master的binary log events拷貝到它的中繼日志(relay log);
(3) slave重做中繼日志中的事件,將改變反映它自己的數(shù)據(jù)。
下圖描述了這一過程:
該過程的第一部分就是master記錄二進(jìn)制日志。在每個事務(wù)更新數(shù)據(jù)完成之前,master在二日志記錄這些改變。MySQL將事務(wù)串行的寫入二進(jìn)制日志,即使事務(wù)中的語句都是交叉執(zhí)行的。在事件寫入二進(jìn)制日志完成后,master通知存儲引擎提交事務(wù)。
下一步就是slave將master的binary log拷貝到它自己的中繼日志。首先,slave開始一個工作線程——I/O線程。I/O線程在master上打開一個普通的連接,然后開始binlog dump process。Binlog dump process從master的二進(jìn)制日志中讀取事件,如果已經(jīng)跟上master,它會睡眠并等待master產(chǎn)生新的事件。I/O線程將這些事件寫入中繼日志。
SQL slave thread處理該過程的最后一步。SQL線程從中繼日志讀取事件,更新slave的數(shù)據(jù),使其與master中的數(shù)據(jù)一致。只要該線程與I/O線程保持一致,中繼日志通常會位于OS的緩存中,所以中繼日志的開銷很小。
此外,在master中也有一個工作線程:和其它MySQL的連接一樣,slave在master中打開一個連接也會使得master開始一個線程。復(fù)制過程有一個很重要的限制——復(fù)制在slave上是串行化的,也就是說master上的并行更新操作不能在slave上并行操作。
2、體驗(yàn)MySQL復(fù)制
MySQL開始復(fù)制是很簡單的過程,不過,根據(jù)特定的應(yīng)用場景,都會在基本的步驟上有一些變化。最簡單的場景就是一個新安裝的master和slave,從高層來看,整個過程如下:
(1)在每個服務(wù)器上創(chuàng)建一個復(fù)制帳號;
(2)配置master和slave;
(3)Slave連接master開始復(fù)制。
2.1、創(chuàng)建復(fù)制帳號
每個slave使用標(biāo)準(zhǔn)的MySQL用戶名和密碼連接master。進(jìn)行復(fù)制操作的用戶會授予REPLICATION SLAVE權(quán)限。用戶名的密碼都會存儲在文本文件master.info中。假如,你想創(chuàng)建repl用戶,如下:
mysql> GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.*
-> TO repl@'192.168.0.%' IDENTIFIED BY 'p4ssword';
2.2、配置master
接下來對master進(jìn)行配置,包括打開二進(jìn)制日志,指定唯一的servr ID。例如,在配置文件加入如下值:
[mysqld]
log-bin=mysql-bin
server-id=10
重啟master,運(yùn)行SHOW MASTER STATUS,輸出如下:
2.3、配置slave
Slave的配置與master類似,你同樣需要重啟slave的MySQL。如下:
log_bin = mysql-bin
server_id = 2
relay_log = mysql-relay-bin
log_slave_updates = 1
read_only = 1
server_id是必須的,而且唯一。slave沒有必要開啟二進(jìn)制日志,但是在一些情況下,必須設(shè)置,例如,如果slave為其它slave的master,必須設(shè)置bin_log。在這里,我們開啟了二進(jìn)制日志,而且顯示的命名(默認(rèn)名稱為hostname,但是,如果hostname改變則會出現(xiàn)問題)。
relay_log配置中繼日志,log_slave_updates表示slave將復(fù)制事件寫進(jìn)自己的二進(jìn)制日志(后面會看到它的用處)。
有些人開啟了slave的二進(jìn)制日志,卻沒有設(shè)置log_slave_updates,然后查看slave的數(shù)據(jù)是否改變,這是一種錯誤的配置。所以,盡量使用read_only,它防止改變數(shù)據(jù)(除了特殊的線程)。但是,read_only并是很實(shí)用,特別是那些需要在slave上創(chuàng)建表的應(yīng)用。
2.4、啟動slave
接下來就是讓slave連接master,并開始重做master二進(jìn)制日志中的事件。你不應(yīng)該用配置文件進(jìn)行該操作,而應(yīng)該使用CHANGE MASTER TO語句,該語句可以完全取代對配置文件的修改,而且它可以為slave指定不同的master,而不需要停止服務(wù)器。如下:
mysql> CHANGE MASTER TO MASTER_HOST='server1',
-> MASTER_USER='repl',
-> MASTER_PASSWORD='p4ssword',
-> MASTER_LOG_FILE='mysql-bin.000001',
-> MASTER_LOG_POS=0;
MASTER_LOG_POS 的值為 0 ,因?yàn)樗侨罩镜拈_始位置。然后,你可以用 SHOW SLAVE STATUS 語句查看 slave 的設(shè)置是否正確:
mysql> SHOW SLAVE STATUS\G
*************************** 1. row ***************************
Slave_IO_State:
Master_Host: server1
Master_User: repl
Master_Port: 3306
Connect_Retry: 60
Master_Log_File: mysql-bin.000001
Read_Master_Log_Pos: 4
Relay_Log_File: mysql-relay-bin.000001
Relay_Log_Pos: 4
Relay_Master_Log_File: mysql-bin.000001
Slave_IO_Running: No
Slave_SQL_Running: No
...omitted...
Seconds_Behind_Master: NULL
Slave_IO_State, Slave_IO_Running, 和 Slave_SQL_Running 表明 slave 還沒有開始復(fù)制過程。日志的位置為 4 而不是 0 ,這是因?yàn)? 0 只是日志文件的開始位置,并不是日志位置。實(shí)際上, MySQL 知道的第一個事件的位置是 4 。
為了開始復(fù)制,你可以運(yùn)行:
mysql> START SLAVE;
運(yùn)行 SHOW SLAVE STATUS 查看輸出結(jié)果:
mysql> SHOW SLAVE STATUS\G
*************************** 1. row ***************************
Slave_IO_State: Waiting for master to send event
Master_Host: server1
Master_User: repl
Master_Port: 3306
Connect_Retry: 60
Master_Log_File: mysql-bin.000001
Read_Master_Log_Pos: 164
Relay_Log_File: mysql-relay-bin.000001
Relay_Log_Pos: 164
Relay_Master_Log_File: mysql-bin.000001
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
...omitted...
Seconds_Behind_Master: 0
注意, slave 的 I/O 和 SQL 線程都已經(jīng)開始運(yùn)行,而且 Seconds_Behind_Master 不再是 NULL 。日志的位置增加了,意味著一些事件被獲取并執(zhí)行了。如果你在 master 上進(jìn)行修改,你可以在 slave 上看到各種日志文件的位置的變化,同樣,你也可以看到數(shù)據(jù)庫中數(shù)據(jù)的變化。
你可查看 master 和 slave 上線程的狀態(tài)。在 master 上,你可以看到 slave 的 I/O 線程創(chuàng)建的連接:
mysql> show processlist \G *************************** 1. row *************************** Id: 1 User: root Host: localhost:2096 db: test Command: Query Time: 0 State: NULL Info: show processlist *************************** 2. row *************************** Id: 2 User: repl Host: localhost:2144 db: NULL Command: Binlog Dump Time: 1838 State: Has sent all binlog to slave; waiting for binlog to be updated Info: NULL 2 rows in set (0.00 sec) |
行2為處理slave的I/O線程的連接。
在slave上運(yùn)行該語句:
mysql> show processlist \G *************************** 1. row *************************** Id: 1 User: system user Host: db: NULL Command: Connect Time: 2291 State: Waiting for master to send event Info: NULL *************************** 2. row *************************** Id: 2 User: system user Host: db: NULL Command: Connect Time: 1852 State: Has read all relay log; waiting for the slave I/O thread to update it Info: NULL *************************** 3. row *************************** Id: 5 User: root Host: localhost:2152 db: test Command: Query Time: 0 State: NULL Info: show processlist 3 rows in set (0.00 sec) |
行1為I/O線程狀態(tài),行2為SQL線程狀態(tài)。
2.5、從另一個master初始化slave
前面討論的假設(shè)你是新安裝的master和slave,所以,slave與master有相同的數(shù)據(jù)。但是,大多數(shù)情況卻不是這樣的,例如,你的master可能已經(jīng)運(yùn)行很久了,而你想對新安裝的slave進(jìn)行數(shù)據(jù)同步,甚至它沒有master的數(shù)據(jù)。
此時,有幾種方法可以使slave從另一個服務(wù)開始,例如,從master拷貝數(shù)據(jù),從另一個slave克隆,從最近的備份開始一個slave。Slave與master同步時,需要三樣?xùn)|西:
(1)master的某個時刻的數(shù)據(jù)快照;
(2)master當(dāng)前的日志文件、以及生成快照時的字節(jié)偏移。這兩個值可以叫做日志文件坐標(biāo)(log file coordinate),因?yàn)樗鼈兇_定了一個二進(jìn)制日志的位置,你可以用SHOW MASTER STATUS命令找到日志文件的坐標(biāo);
(3)master的二進(jìn)制日志文件。
可以通過以下幾中方法來克隆一個slave:
(1) 冷拷貝(cold copy)
停止master,將master的文件拷貝到slave;然后重啟master。缺點(diǎn)很明顯。
(2) 熱拷貝(warm copy)
如果你僅使用MyISAM表,你可以使用mysqlhotcopy拷貝,即使服務(wù)器正在運(yùn)行。
(3) 使用mysqldump
使用mysqldump來得到一個數(shù)據(jù)快照可分為以下幾步:
<1>鎖表:如果你還沒有鎖表,你應(yīng)該對表加鎖,防止其它連接修改數(shù)據(jù)庫,否則,你得到的數(shù)據(jù)可以是不一致的。如下:
mysql> FLUSH TABLES WITH READ LOCK;
<2>在另一個連接用mysqldump創(chuàng)建一個你想進(jìn)行復(fù)制的數(shù)據(jù)庫的轉(zhuǎn)儲:
shell> mysqldump --all-databases --lock-all-tables >dbdump.db
<3>對表釋放鎖。
mysql> UNLOCK TABLES;
3、深入復(fù)制
已經(jīng)討論了關(guān)于復(fù)制的一些基本東西,下面深入討論一下復(fù)制。
3.1、基于語句的復(fù)制(Statement-Based Replication)
MySQL 5.0及之前的版本僅支持基于語句的復(fù)制(也叫做邏輯復(fù)制,logical replication),這在數(shù)據(jù)庫并不常見。master記錄下改變數(shù)據(jù)的查詢,然后,slave從中繼日志中讀取事件,并執(zhí)行它,這些SQL語句與master執(zhí)行的語句一樣。
這種方式的優(yōu)點(diǎn)就是實(shí)現(xiàn)簡單。此外,基于語句的復(fù)制的二進(jìn)制日志可以很好的進(jìn)行壓縮,而且日志的數(shù)據(jù)量也較小,占用帶寬少——例如,一個更新GB的數(shù)據(jù)的查詢僅需要幾十個字節(jié)的二進(jìn)制日志。而mysqlbinlog對于基于語句的日志處理十分方便。
但是,基于語句的復(fù)制并不是像它看起來那么簡單,因?yàn)橐恍┎樵冋Z句依賴于master的特定條件,例如,master與slave可能有不同的時間。所以,MySQL的二進(jìn)制日志的格式不僅僅是查詢語句,還包括一些元數(shù)據(jù)信息,例如,當(dāng)前的時間戳。即使如此,還是有一些語句,比如,CURRENT USER函數(shù),不能正確的進(jìn)行復(fù)制。此外,存儲過程和觸發(fā)器也是一個問題。
另外一個問題就是基于語句的復(fù)制必須是串行化的。這要求大量特殊的代碼,配置,例如InnoDB的next-key鎖等。并不是所有的存儲引擎都支持基于語句的復(fù)制。
3.2、基于記錄的復(fù)制(Row-Based Replication)
MySQL增加基于記錄的復(fù)制,在二進(jìn)制日志中記錄下實(shí)際數(shù)據(jù)的改變,這與其它一些DBMS的實(shí)現(xiàn)方式類似。這種方式有優(yōu)點(diǎn),也有缺點(diǎn)。優(yōu)點(diǎn)就是可以對任何語句都能正確工作,一些語句的效率更高。主要的缺點(diǎn)就是二進(jìn)制日志可能會很大,而且不直觀,所以,你不能使用mysqlbinlog來查看二進(jìn)制日志。
對于一些語句,基于記錄的復(fù)制能夠更有效的工作,如:
mysql> INSERT INTO summary_table(col1, col2, sum_col3)
-> SELECT col1, col2, sum(col3)
-> FROM enormous_table
-> GROUP BY col1, col2;
假設(shè),只有三種唯一的col1和col2的組合,但是,該查詢會掃描原表的許多行,卻僅返回三條記錄。此時,基于記錄的復(fù)制效率更高。
另一方面,下面的語句,基于語句的復(fù)制更有效:
mysql> UPDATE enormous_table SET col1 = 0;
此時使用基于記錄的復(fù)制代價(jià)會非常高。由于兩種方式不能對所有情況都能很好的處理,所以,MySQL 5.1支持在基于語句的復(fù)制和基于記錄的復(fù)制之前動態(tài)交換。你可以通過設(shè)置session變量binlog_format來進(jìn)行控制。
3.3、復(fù)制相關(guān)的文件
除了二進(jìn)制日志和中繼日志文件外,還有其它一些與復(fù)制相關(guān)的文件。如下:
(1)mysql-bin.index
服務(wù)器一旦開啟二進(jìn)制日志,會產(chǎn)生一個與二日志文件同名,但是以.index結(jié)尾的文件。它用于跟蹤磁盤上存在哪些二進(jìn)制日志文件。MySQL用它來定位二進(jìn)制日志文件。它的內(nèi)容如下(
我的機(jī)器上
):
(2)mysql-relay-bin.index
該文件的功能與mysql-bin.index類似,但是它是針對中繼日志,而不是二進(jìn)制日志。內(nèi)容如下:
.\mysql-02-relay-bin.000017
.\mysql-02-relay-bin.000018
(3)master.info
保存master的相關(guān)信息。不要刪除它,否則,slave重啟后不能連接master。內(nèi)容如下(我的機(jī)器上):
I/O線程更新master.info文件,內(nèi)容如下(我的機(jī)器上):
.\mysql-02-relay-bin.000019 254 mysql-01-bin.000010 286 0 52813 |
(4)relay-log.info
包含slave中當(dāng)前二進(jìn)制日志和中繼日志的信息。
3.4、發(fā)送復(fù)制事件到其它slave
當(dāng)設(shè)置log_slave_updates時,你可以讓slave扮演其它slave的master。此時,slave把SQL線程執(zhí)行的事件寫進(jìn)行自己的二進(jìn)制日志(binary log),然后,它的slave可以獲取這些事件并執(zhí)行它。如下:
3.5、復(fù)制過濾(Replication Filters)
復(fù)制過濾可以讓你只復(fù)制服務(wù)器中的一部分?jǐn)?shù)據(jù),有兩種復(fù)制過濾:在master上過濾二進(jìn)制日志中的事件;在slave上過濾中繼日志中的事件。如下:
4、復(fù)制的常用拓?fù)浣Y(jié)構(gòu)
復(fù)制的體系結(jié)構(gòu)有以下一些基本原則:
(1) 每個slave只能有一個master;
(2) 每個slave只能有一個唯一的服務(wù)器ID;
(3) 每個master可以有很多slave;
(4) 如果你設(shè)置log_slave_updates,slave可以是其它slave的master,從而擴(kuò)散master的更新。
MySQL不支持多主服務(wù)器復(fù)制(Multimaster Replication)——即一個slave可以有多個master。但是,通過一些簡單的組合,我們卻可以建立靈活而強(qiáng)大的復(fù)制體系結(jié)構(gòu)。
4.1、單一master和多slave
由一個master和一個slave組成復(fù)制系統(tǒng)是最簡單的情況。Slave之間并不相互通信,只能與master進(jìn)行通信。如下:
如果寫操作較少,而讀操作很時,可以采取這種結(jié)構(gòu)。你可以將讀操作分布到其它的slave,從而減小master的壓力。但是,當(dāng)slave增加到一定數(shù)量時,slave對master的負(fù)載以及網(wǎng)絡(luò)帶寬都會成為一個嚴(yán)重的問題。
這種結(jié)構(gòu)雖然簡單,但是,它卻非常靈活,足夠滿足大多數(shù)應(yīng)用需求。一些建議:
(1) 不同的slave扮演不同的作用(例如使用不同的索引,或者不同的存儲引擎);
(2) 用一個slave作為備用master,只進(jìn)行復(fù)制;
(3) 用一個遠(yuǎn)程的slave,用于災(zāi)難恢復(fù);
4.2、主動模式的Master-Master(Master-Master in Active-Active Mode)
Master-Master復(fù)制的兩臺服務(wù)器,既是master,又是另一臺服務(wù)器的slave。如圖:
主動的Master-Master復(fù)制有一些特殊的用處。例如,地理上分布的兩個部分都需要自己的可寫的數(shù)據(jù)副本。這種結(jié)構(gòu)最大的問題就是更新沖突。假設(shè)一個表只有一行(一列)的數(shù)據(jù),其值為1,如果兩個服務(wù)器分別同時執(zhí)行如下語句:
在第一個服務(wù)器上執(zhí)行:
mysql> UPDATE tbl SET col=col + 1;
在第二個服務(wù)器上執(zhí)行:
mysql> UPDATE tbl SET col=col * 2;
那么結(jié)果是多少呢?一臺服務(wù)器是4,另一個服務(wù)器是3,但是,這并不會產(chǎn)生錯誤。
實(shí)際上,MySQL并不支持其它一些DBMS支持的多主服務(wù)器復(fù)制(Multimaster Replication),
這是MySQL的復(fù)制功能很大的一個限制(多主服務(wù)器的難點(diǎn)在于解決更新沖突),但是,如果你實(shí)在有這種需求,你可以采用MySQL Cluster,以及將Cluster和Replication結(jié)合起來,可以建立強(qiáng)大的高性能的數(shù)據(jù)庫平臺
。但是,可以通過其它一些方式來模擬這種多主服務(wù)器的復(fù)制。
4.3、主動-被動模式的Master-Master(Master-Master in Active-Passive Mode)
這是master-master結(jié)構(gòu)變化而來的,它避免了M-M的缺點(diǎn),實(shí)際上,這是一種具有容錯和高可用性的系統(tǒng)。它的不同點(diǎn)在于其中一個服務(wù)只能進(jìn)行只讀操作。如圖:
4.4、帶從服務(wù)器的Master-Master結(jié)構(gòu)(Master-Master with Slaves)
這種結(jié)構(gòu)的優(yōu)點(diǎn)就是提供了冗余。在地理上分布的復(fù)制結(jié)構(gòu),它不存在單一節(jié)點(diǎn)故障問題,而且還可以將讀密集型的請求放到slave上。
主要參考:《High Performance MySQL》
更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主
微信掃碼或搜索:z360901061

微信掃一掃加我為好友
QQ號聯(lián)系: 360901061
您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長非常感激您!手機(jī)微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對您有幫助就好】元
