MySQL數(shù)據(jù)延遲跳動(dòng)的問題分析
今天分析了另外一個(gè)關(guān)于數(shù)據(jù)庫(kù)延遲跳動(dòng)的問題，也算是比較典型，這個(gè)過程中也有一些分析問題的方法和技巧工參考。
首先在高可用檢測(cè)中，有一套環(huán)境的檢測(cè)時(shí)斷時(shí)續(xù)，經(jīng)過排查發(fā)現(xiàn)是數(shù)據(jù)庫(kù)產(chǎn)生了延遲，在登錄到從庫(kù)show slave status查看，會(huì)發(fā)現(xiàn)Seconds_behind_master的值是不斷跳動(dòng)的，即從0~39~0~39這樣的頻率不斷跳動(dòng)，讓人很搓火。
查看數(shù)據(jù)庫(kù)的相關(guān)日志發(fā)現(xiàn)竟然沒有任何可以參考的日志記錄，怎么分析這個(gè)問題呢，我們先來復(fù)現(xiàn)，于是我按照節(jié)奏抓取了3次問題出現(xiàn)的日志，即通過show slave status連續(xù)監(jiān)測(cè)，抓取show slave status輸出的結(jié)果保存下來，這樣我們就得到了一個(gè)問題發(fā)生過程中的偏移量變化，而這個(gè)變化則是在SQLThread在回放過程中產(chǎn)生的問題。
比如下面的一段輸出，我截取的是Slave端的relay log進(jìn)行分析，相應(yīng)的字段為Relay_Log_Pos
- Slave_IO_State: Waiting for master to send event
- Master_Host: xxxx
- Master_User: dba_repl
- Master_Port: 4306
- Connect_Retry: 60
- Master_Log_File: mysqlbin.000044
- Read_Master_Log_Pos: 386125369
- Relay_Log_File: slave-relay-bin.000066
- Relay_Log_Pos: 386125580
- Relay_Master_Log_File: mysqlbin.000044
所以很快得到了偏移量的變化情況：385983806 ，386062813 ，386125580
接著我使用mysqlbinlog開始分析這些日志過程中的明細(xì)，根據(jù)如下的命令可以很快得到轉(zhuǎn)儲(chǔ)的日志中相關(guān)的表有3張。
- # grep INSERT relaylog_xxxx.dump |awk '{print $3 " " $4}'|sed 's/INTO//g'|sort|uniq
- act_action_exec_info
- act_join_desc
- dic_subsidy_marketing_querylog_202008
我逐步分析了每張表的數(shù)據(jù)操作情況，得到的信息還是比較有限，繼續(xù)做更進(jìn)一步的分析，比如我們分析一下整個(gè)日志中的事務(wù)量大小：
- # mysqlbinlog slave-relay-bin.000066 | grep "GTID$(printf '\t')last_committed" -B 1 \
- > | grep -E '^# at' | awk '{print $3}' \
- > | awk 'NR==1 {tmp=$1} NR>1 {print ($1-tmp);tmp=$1}' \
- > | sort -n -r | head -n 100
- mysqlbinlog: [Warning] unknown variable 'loose-default-character-set=utf8'
- 5278
- 5268
- 5268
- 5268
- 5253
- 5253
- 5253
- 5253
- 5253
可以看到是5K左右，算是比較大了，而這些額外的信息從哪里獲得呢，我在主庫(kù)開啟了general_log，這樣就能夠得到更細(xì)粒度的操作日志了。
進(jìn)一步分析發(fā)現(xiàn)，整個(gè)業(yè)務(wù)使用了顯示事務(wù)的方式：SET autocommit=0，整個(gè)事務(wù)中包含了幾個(gè)大SQL,里面存儲(chǔ)了很多操作日志明細(xì)，而且在事務(wù)操作過程中還基于Mybatis框架調(diào)用了多次select count(1) from xxx的操作。
經(jīng)過和業(yè)務(wù)溝通也基本明確了以上問題。
