亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 數據庫 > MySQL > 正文

細說MySQL死鎖與日志二三事

2024-07-24 13:14:08
字體:
來源:轉載
供稿:網友

最近線上 MySQL 接連發生了幾起數據異常,都是在凌晨爆發,由于業務場景屬于典型的數據倉庫型應用,白天壓力較小無法復現。甚至有些異常還比較詭異,最后 root cause 分析頗費周折。那實際業務當中咱們如何能快速的定位線上 MySQL 問題,修復異常呢?下文我會根據兩個實際 case,分享下相關的經驗與方法。

Case1:部分數據更新失敗

某天渠道同學反饋某報表極個別渠道數據為 0,大部分渠道數據正常。這個數據是由一個統計程序每天凌晨例行更新的,按理來說,要么全部正常,要么全部失敗,那會是什么原因導致極個別數據異常呢?

首先我們能想到的自然是根據統計任務日志來看了,但是看了統計程序打印的日志沒有發現諸如 SQL update 失敗的異常描述,那當時的數據庫究竟發生了什么呢?在查看 MySQL-server 日志之前,習慣性的看了下數據庫狀態:

mysql,死鎖,日志

恰好看到了凌晨這個 update 發生了死鎖:

mysql,死鎖,日志

篇幅所限,上下文我這里省略了很多,從這段日志里可以看到,TRANSACTION 1 和 TRANSACTION 2 分別持有一定數量的行鎖,然后又等待對方的鎖,最后 MySQL 檢測到 deadlock ,然后選擇回滾了 TRANSACTION 1:Innodb目前處理死鎖的方法是將持有最少行級排他鎖的事務進行回滾。

那這里就有 3 個問題了:

1、innodb 行鎖不是只鎖一行?

因為這張表是 innodb 引擎的,InnoDB 支持行鎖和表鎖。而InnoDB行鎖是通過給索引上的索引項加鎖來實現的,這一點MySQL與Oracle不同,后者是通過在數據塊中對相應數據行加鎖來實現的。InnoDB這種行鎖實現特點意味著:只有通過索引條件檢索數據,InnoDB才使用行級鎖,否則,InnoDB將使用表鎖,會把所有掃描過的行都鎖定!在實際應用中,要特別注意InnoDB行鎖的這一特性,不然的話,可能導致大量的鎖沖突,從而影響并發性能。由于MySQL的行鎖是針對索引加的鎖,不是針對記錄加的鎖,所以雖然是訪問不同行的記錄,但是如果是使用相同的索引鍵,是會出現鎖沖突的。當我們用范圍條件而不是相等條件檢索數據,并請求共享或排他鎖時,InnoDB會給符合條件的已有數據記錄的索引項加鎖;另外間隙鎖也會鎖多行,InnoDB除了通過范圍條件加鎖時使用間隙鎖外,如果使用相等條件請求給一個不存在的記錄加鎖,InnoDB也會使用間隙鎖!

話都說到這了,那就看下咱們業務表的索引情況:

mysql,死鎖,日志

可以看到這張表的索引極不合理:有3個索引,但是 update 卻沒有完全的用上索引,導致 update 沒有精確的用上索引,需要鎖定多行范圍數據,從而引發死鎖。

知道原理后,咱們再精心構建一個四字段的組合索引即可讓 update 精準的走 innodb 索引,實際上,我們更新索引后,這個死鎖問題即得到了解決。

注:innodb不僅會打印出事務和事務持有和等待的鎖,而且還有記錄本身,不幸的是,它可能超過innodb為輸出結果預留的長度(只能打印1M的內容且只能保留最近一次的死鎖信息),如果你無法看到完整的輸出,此時可以在任意庫下創建innodb_monitor或innodb_lock_monitor表,這樣innodb status信息會完整且每15s一次被記錄到錯誤日志中。如:create table innodb_monitor(a int)engine=innodb;,不需要記錄到錯誤日志中時就刪掉這個表即可。

2、回滾為什么只有部分 update 語句失敗

回滾的話,為什么只有部分 update 語句失敗,而不是整個事務里的所有 update 都失?。?/p>

這是因為咱們的 innodb 默認是自動提交的:

mysql,死鎖,日志

在多個 update 或 insert 語句情況下,每執行完一條 SQL,innodb 就立即 commit 一次以持久化變更,同時釋放鎖,這也正是本例中死鎖回滾事務后只有極個別語句失敗的原因。

需要注意的是,通常還有另外一種情況也可能導致部分語句回滾,需要格外留意。在 innodb 里有個參數叫:innodb_rollback_on_timeout

mysql,死鎖,日志

官方手冊里這樣描述:

In MySQL 5.1, InnoDB rolls back only the last statement on a transaction timeout by default. If –innodb_rollback_on_timeout is specified, a transaction timeout causes InnoDB to abort and roll back the entire transaction (the same behavior as in MySQL 4.1). This variable was added in MySQL 5.1.15.

解釋:這個參數關閉或不存在的話遇到超時只回滾事務最后一個Query,打開的話事務遇到超時就回滾整個事務。

3、怎樣降低 innodb 死鎖幾率?

死鎖在行鎖及事務場景下很難完全消除,但可以通過表設計和SQL調整等措施減少鎖沖突和死鎖,包括:

盡量使用較低的隔離級別,比如如果發生了間隙鎖,你可以把會話或者事務的事務隔離級別更改為 RC(read committed)級別來避免,但此時需要把 binlog_format 設置成 row 或者 mixed 格式

精心設計索引,并盡量使用索引訪問數據,使加鎖更精確,從而減少鎖沖突的機會;

選擇合理的事務大小,小事務發生鎖沖突的幾率也更??;

給記錄集顯示加鎖時,最好一次性請求足夠級別的鎖。比如要修改數據的話,最好直接申請排他鎖,而不是先申請共享鎖,修改時再請求排他鎖,這樣容易產生死鎖;

不同的程序訪問一組表時,應盡量約定以相同的順序訪問各表,對一個表而言,盡可能以固定的順序存取表中的行。這樣可以大大減少死鎖的機會;

盡量用相等條件訪問數據,這樣可以避免間隙鎖對并發插入的影響;

不要申請超過實際需要的鎖級別;除非必須,查詢時不要顯示加鎖;

對于一些特定的事務,可以使用表鎖來提高處理速度或減少死鎖的可能。

Case2:詭異的 Lock wait timeout

連續幾天凌晨6點和早上8點 都分別有一個任務失敗,load data local infile 的時候報 Lock wait timeout exceeded try restarting transaction innodb 的 Java SQL 異常,和平臺的同學溝通得知,這是我們自己的業務數據庫的 Lock 時間太短或者鎖沖突的問題。但是回頭一想不應該???這不一直好好的嗎?而且基本都是單表單任務,不存在多人沖突。

甭管誰的問題,那咱們還是先看自己的數據庫有沒有問題:

mysql,死鎖,日志

默認 lock 超時時間 50s,這個時間真心不短了,估計調了也沒用,事實上確實死馬當活馬醫的試了下沒用。。。

而且這次 SHOW ENGINE INNODB STATUS/G 也沒出現任何死鎖信息,然后又將目光轉向 MySQL-server 日志,希望能從日志里看一看那個時刻前后數據究竟在做什么操作。這里先簡單的介紹下MySQL日志文件系統的組成:

   (a) error 日志:記錄啟動、運行或停止 mysqld 時出現的問題,默認開啟。
   (b) general 日志:通用查詢日志,記錄所有語句和指令,開啟數據庫會有 5% 左右性能損失。
   (c) binlog 日志:二進制格式,記錄所有更改數據的語句,主要用于 slave 復制和數據恢復。
   (d) slow 日志:記錄所有執行時間超過 long_query_time 秒的查詢或不使用索引的查詢,默認關閉。
   (e) Innodb日志:innodb redo log、undo log,用于恢復數據和撤銷操作。

從上面的介紹可以看到,目前這個問題的日志可能在 d 和 b 中,看了下 d 中沒有,那就只能開啟 b 了,但 b 對數據庫的性能有一定損耗,由于是全量日志,量非常巨大,所以開啟一定要謹慎:

mysql,死鎖,日志

我這里只是每天在出問題的前后半小時開啟下全量日志,結果沒有發現任何 MySQL-client 請求到我們的業務數據庫!該日志格式如下,記錄了所有的連接與命令:

mysql,死鎖,日志

那問題基本確定了,客戶端請求都沒到我們這邊就拋出了上述的異常,和平臺方再三溝通確認下,最后平臺方查證是因為在執行插入前他們需要先從 SQL task 表取出 SQL 和更新 task 狀態,結果這張表由于在整點存在大量 insert 和 update 并發,導致部分 SQL 等待 lock 超時了。。。

MySQL 日志分析腳本

由于凌晨是數據倉庫的業務高峰,很多問題都是在這個時候爆發,一些詭異的問題往往是過了這個村就沒這個店了,白天無法復現。如何能捕獲我們關心的日志,便于快速的定位問題,這個是重中之重,這里我寫了個小腳本,crontab 部署,可以選擇時間范圍開啟,每分鐘采樣一次日志,需要說明的是 general log 沒事別輕易開啟,否則對數據庫性能損耗較大。

mysql,死鎖,日志

mysql,死鎖,日志

 

mysql,死鎖,日志

 

mysql,死鎖,日志

 

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持VeVb武林網。


注:相關教程知識閱讀請移步到MYSQL教程頻道。
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
动漫精品一区二区| 不卡av电影院| 欧美视频在线看| 日韩精品福利网站| 久久成人这里只有精品| 热99久久精品| 国产成人精品视| 91精品美女在线| 亚洲国产中文字幕久久网| 日韩av在线免费观看一区| 亚洲欧美国产精品va在线观看| 尤物yw午夜国产精品视频| 日本精品一区二区三区在线| 成人免费观看a| 精品久久久久久久久久久久久| 91国产视频在线播放| 综合激情国产一区| 91社影院在线观看| 中日韩美女免费视频网站在线观看| 2020国产精品视频| 成人在线一区二区| 国产91在线播放| 欧美中文字幕视频| 亚洲欧美综合区自拍另类| 久久艹在线视频| 国产精品一区二区久久国产| 久久五月天综合| 久久久伊人欧美| 黄色一区二区在线观看| 国产欧美日韩免费| 日韩在线高清视频| www.日韩欧美| 久久久久久久爱| 国产免费一区二区三区香蕉精| 日韩大片免费观看视频播放| 高清亚洲成在人网站天堂| 中文字幕欧美精品在线| 国产亚洲精品久久久优势| 亚洲欧美日韩天堂一区二区| 亚洲一级免费视频| 欧美在线国产精品| 亚洲精品久久久久中文字幕二区| 亚洲自拍偷拍在线| 国产视频观看一区| 国内揄拍国内精品少妇国语| 欧美在线视频播放| 中国china体内裑精亚洲片| 国产一区二区香蕉| 亚洲性无码av在线| 亚洲精品欧美极品| 国产ts一区二区| 一区二区三区无码高清视频| 97国产成人精品视频| 国产精品电影一区| 成人激情视频在线观看| 欧美激情一区二区三区高清视频| 91精品国产一区| 伊是香蕉大人久久| 日本中文字幕成人| 日本成人免费在线| 亚洲深夜福利视频| 国产精品男人的天堂| 成人性生交大片免费看视频直播| 国内揄拍国内精品少妇国语| 国产日韩欧美在线观看| 日韩中文在线不卡| 亚洲一区二区久久久久久| 国产亚洲一区二区精品| 国产a∨精品一区二区三区不卡| 欧美性猛交xxxx乱大交| 九九精品视频在线| 久久久亚洲福利精品午夜| 欧美精品九九久久| 欧美精品久久久久久久免费观看| 国产精品久久久久久av福利| 日韩中文字幕在线视频| 亚洲天堂网在线观看| 国产精品久久久久秋霞鲁丝| 午夜欧美大片免费观看| 亚洲精品白浆高清久久久久久| 久久久亚洲成人| 国产精品香蕉av| 亚洲精品久久久久久久久久久久| 亚洲成av人片在线观看香蕉| 性欧美暴力猛交69hd| 国产mv久久久| 韩国精品美女www爽爽爽视频| 国产脚交av在线一区二区| 亚洲女性裸体视频| 国产一区二区精品丝袜| 欧美激情一二三| 欧美电影免费观看| 日韩在线视频线视频免费网站| 欧美性xxxxxxx| 国产精品视频内| 欧美日韩免费在线观看| 性色av一区二区三区免费| 欧美亚洲国产日韩2020| 91精品视频在线看| 伊人伊人伊人久久| 久久成人18免费网站| 国产精品美乳在线观看| 中文字幕精品av| 91精品国产91久久久久久吃药| 久久久免费观看视频| 日韩精品在线影院| 国产精品情侣自拍| 国产婷婷成人久久av免费高清| 日韩福利在线播放| 日韩欧美一区二区在线| 日本一区二区在线免费播放| 国产精品久久久久久久午夜| 精品视频在线导航| 亚洲第一网站免费视频| 成人免费视频网址| www.亚洲天堂| 好吊成人免视频| 亚洲aⅴ男人的天堂在线观看| 国产亚洲美女精品久久久| 久久天天躁狠狠躁夜夜躁| 久久视频这里只有精品| 国产日韩精品综合网站| 成人欧美一区二区三区黑人| 日韩中文字幕在线播放| 日本精品中文字幕| 91在线高清免费观看| 国产91精品久久久| 亚洲一区二区黄| 国产精品 欧美在线| 亚洲欧洲自拍偷拍| 欧美国产日韩一区| 91免费在线视频| 欧美最近摘花xxxx摘花| 韩国视频理论视频久久| 久久视频在线播放| 国产成人精品免高潮费视频| 91久久精品国产91久久性色| 日韩精品免费综合视频在线播放| 亚洲第一级黄色片| 精品亚洲国产成av人片传媒| 亚洲xxxx视频| 亚洲va欧美va国产综合剧情| 亚洲国产精品va在线看黑人动漫| 亚洲成色777777女色窝| 久久久999精品视频| 精品视频在线播放色网色视频| 欧美精品videossex88| 亚洲精品色婷婷福利天堂| …久久精品99久久香蕉国产| 久久久久久网站| 国内精品400部情侣激情| 精品久久久久久国产| 精品国产一区二区三区四区在线观看| 日韩在线中文字| 久久久精品日本| 91精品综合久久久久久五月天| 国产91精品视频在线观看| 精品人伦一区二区三区蜜桃免费| 啪一啪鲁一鲁2019在线视频| 九九热这里只有精品6| 日韩在线小视频| 国产精品美女久久久久av超清| 久久99精品国产99久久6尤物| 影音先锋日韩有码|