一、現(xiàn)象
凌晨對線上一張表添加索引,表數(shù)據(jù)量太大(1億+數(shù)據(jù),數(shù)據(jù)量50G以上),造成主從延遲幾個小時(shí),各個依賴從庫的系統(tǒng)無法查詢數(shù)據(jù),最終影響業(yè)務(wù)。
現(xiàn)在就梳理下主從延遲的原理。
二、原理
根據(jù) MySQL 官方文檔 MySQL Replication Implementation Details 中的描述,MySQL 主從復(fù)制依賴于三個線程:master一個線程(Binlog dump thread),slave兩個線程(I/O thread和SQL thread)。主從復(fù)制流程如下圖:

master 服務(wù)器和 slave 服務(wù)器連接時(shí),創(chuàng)建Binlog dump thread以發(fā)送bin log數(shù)據(jù):
Binlog dump thread對應(yīng)一個 slave 服務(wù)器;Binlog dump thread從bin log獲取數(shù)據(jù)時(shí)會加鎖,獲取到數(shù)據(jù)后,立即釋放鎖。 當(dāng) slave 服務(wù)器收到 START_SLAVE 命令時(shí),會創(chuàng)建I/O thread和SQL thread:
I/O thread以拉的方式,從 master 讀取事件,并存儲到 slave 服務(wù)器的relay log中;SQL thread從relay log中讀取事件并執(zhí)行;slave可以按照自己的節(jié)奏讀取和更新數(shù)據(jù),也可以隨意操作復(fù)制進(jìn)程(啟動和停止)。 注: START_SLAVE命令成功啟動線程后,如果后面I/O thread或SQL thread因?yàn)槟承┰蛲V?,則不會有任何的警告,業(yè)務(wù)方無法感知。可以通過查看 slave 的 error 日志,或者通過 SHOW SLAVE STATUS 查看 slave 上的線程狀態(tài)。
通過 SHOW PROCESSLIST 可查看線程狀態(tài):
Binlog dump thread:
mysql> SHOW PROCESSLIST/G*************************** 1. row *************************** Id: 2 User: root Host: localhost:32931 db: NULLCommand: Binlog Dump Time: 94 State: Has sent all binlog to slave; waiting for binlog to be updated Info: NULL
I/O thread 和 SQL thread:
mysql> SHOW PROCESSLIST/G*************************** 1. row *************************** Id: 10 User: system user Host: db: NULLCommand: Connect Time: 11 State: Waiting for master to send event Info: NULL *************************** 2. row *************************** Id: 11 User: system user Host: db: NULLCommand: Connect Time: 11 State: Has read all relay log; waiting for the slave I/O thread to update it Info: NULL
三、分析
根據(jù)上面的原理,由于slave是單線程(I/O thread)讀取數(shù)據(jù),單線程(SQL thread)更新數(shù)據(jù),而master是多線程寫入,那么只要master寫入的頻率大于slave讀取更新的頻率,就有可能出現(xiàn)主從延遲的情況,如:
master寫入tps較高,大于slave更新速度;slave執(zhí)行某些語句耗時(shí)較長,如持有鎖等;master執(zhí)行某些DDL語句時(shí),執(zhí)行的時(shí)間較長,在slave也執(zhí)行相同的時(shí)間; 此處創(chuàng)建了索引,咨詢 DBA,產(chǎn)生的bin log文件有100多G,數(shù)據(jù)量太大,導(dǎo)致從庫I/O thread一直讀取DDL操作產(chǎn)生的bin log事件,而影響到正常的業(yè)務(wù)DML事件的更新,從而表現(xiàn)為主從同步延遲。
四、解決方案
從主從延遲的原因來看,解決方案可以從以下幾個方向入手:
DDL操作盡量選擇凌晨等業(yè)務(wù)量較小的時(shí)候總結(jié)
以上就是這篇文章的全部內(nèi)容了,希望本文的內(nèi)容對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,謝謝大家對VeVb武林網(wǎng)的支持。
新聞熱點(diǎn)
疑難解答
圖片精選