亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 數據庫 > MySQL > 正文

MySQL百萬級數據分頁查詢優化方案

2024-07-24 13:15:03
字體:
來源:轉載
供稿:網友

當需要從數據庫查詢的表有上萬條記錄的時候,一次性查詢所有結果會變得很慢,特別是隨著數據量的增加特別明顯,這時需要使用分頁查詢。對于數據庫分頁查詢,也有很多種方法和優化的點。下面簡單說一下我知道的一些方法。

準備工作

為了對下面列舉的一些優化進行測試,下面針對已有的一張表進行說明。

表名:order_history
描述:某個業務的訂單歷史表
主要字段:unsigned int id,tinyint(4) int type
字段情況:該表一共37個字段,不包含text等大型數組,最大為varchar(500),id字段為索引,且為遞增。
數據量:5709294
MySQL版本:5.7.16
線下找一張百萬級的測試表可不容易,如果需要自己測試的話,可以寫shell腳本什么的插入數據進行測試。
以下的 sql 所有語句執行的環境沒有發生改變,下面是基本測試結果:

select count(*) from orders_history;

返回結果:5709294

三次查詢時間分別為:

8903 ms8323 ms8401 ms

一般分頁查詢

一般的分頁查詢使用簡單的 limit 子句就可以實現。limit 子句聲明如下:

SELECT * FROM table LIMIT [offset,] rows | rows OFFSET offset

LIMIT 子句可以被用于指定 SELECT 語句返回的記錄數。需注意以下幾點:

第一個參數指定第一個返回記錄行的偏移量
第二個參數指定返回記錄行的最大數目

如果只給定一個參數:它表示返回最大的記錄行數目
第二個參數為 -1 表示檢索從某一個偏移量到記錄集的結束所有的記錄行
初始記錄行的偏移量是 0(而不是 1)

下面是一個應用實例:

select * from orders_history where type=8 limit 1000,10;

該條語句將會從表 orders_history 中查詢第1000條數據之后的10條數據,也就是第1001條到第10010條數據。

數據表中的記錄默認使用主鍵(一般為id)排序,上面的結果相當于:

select * from orders_history where type=8 order by id limit 10000,10;

三次查詢時間分別為:

3040 ms3063 ms3018 ms

針對這種查詢方式,下面測試查詢記錄量對時間的影響:

select * from orders_history where type=8 limit 10000,1;select * from orders_history where type=8 limit 10000,10;select * from orders_history where type=8 limit 10000,100;select * from orders_history where type=8 limit 10000,1000;select * from orders_history where type=8 limit 10000,10000;

三次查詢時間如下:

查詢1條記錄:3072ms 3092ms 3002ms查詢10條記錄:3081ms 3077ms 3032ms查詢100條記錄:3118ms 3200ms 3128ms查詢1000條記錄:3412ms 3468ms 3394ms查詢10000條記錄:3749ms 3802ms 3696ms

另外我還做了十來次查詢,從查詢時間來看,基本可以確定,在查詢記錄量低于100時,查詢時間基本沒有差距,隨著查詢記錄量越來越大,所花費的時間也會越來越多。

針對查詢偏移量的測試:

select * from orders_history where type=8 limit 100,100;select * from orders_history where type=8 limit 1000,100;select * from orders_history where type=8 limit 10000,100;select * from orders_history where type=8 limit 100000,100;select * from orders_history where type=8 limit 1000000,100;

三次查詢時間如下:

查詢100偏移:25ms 24ms 24ms查詢1000偏移:78ms 76ms 77ms查詢10000偏移:3092ms 3212ms 3128ms查詢100000偏移:3878ms 3812ms 3798ms查詢1000000偏移:14608ms 14062ms 14700ms

隨著查詢偏移的增大,尤其查詢偏移大于10萬以后,查詢時間急劇增加。

這種分頁查詢方式會從數據庫第一條記錄開始掃描,所以越往后,查詢速度越慢,而且查詢的數據越多,也會拖慢總查詢速度。

使用子查詢優化

這種方式先定位偏移位置的 id,然后往后查詢,這種方式適用于 id 遞增的情況。

select * from orders_history where type=8 limit 100000,1;select id from orders_history where type=8 limit 100000,1;select * from orders_history where type=8 and id>=(select id from orders_history where type=8 limit 100000,1) limit 100;select * from orders_history where type=8 limit 100000,100;

4條語句的查詢時間如下:

第1條語句:3674ms第2條語句:1315ms第3條語句:1327ms第4條語句:3710ms

針對上面的查詢需要注意:

比較第1條語句和第2條語句:使用 select id 代替 select * 速度增加了3倍
比較第2條語句和第3條語句:速度相差幾十毫秒
比較第3條語句和第4條語句:得益于 select id 速度增加,第3條語句查詢速度增加了3倍
這種方式相較于原始一般的查詢方法,將會增快數倍。

使用 id 限定優化

這種方式假設數據表的id是連續遞增的,則我們根據查詢的頁數和查詢的記錄數可以算出查詢的id的范圍,可以使用 id between and 來查詢:

select * from orders_history where type=2 and id between 1000000 and 1000100 limit 100;

查詢時間:15ms 12ms 9ms

這種查詢方式能夠極大地優化查詢速度,基本能夠在幾十毫秒之內完成。限制是只能使用于明確知道id的情況,不過一般建立表的時候,都會添加基本的id字段,這為分頁查詢帶來很多遍歷。

還可以有另外一種寫法:

select * from orders_history where id >= 1000001 limit 100;

當然還可以使用 in 的方式來進行查詢,這種方式經常用在多表關聯的時候進行查詢,使用其他表查詢的id集合,來進行查詢:

select * from orders_history where id in (select order_id from trade_2 where goods = 'pen') limit 100;

這種 in 查詢的方式要注意:某些 mysql/45132.html">mysql 版本不支持在 in 子句中使用 limit。

使用臨時表優化

這種方式已經不屬于查詢優化,這兒附帶提一下。

對于使用 id 限定優化中的問題,需要 id 是連續遞增的,但是在一些場景下,比如使用歷史表的時候,或者出現過數據缺失問題時,可以考慮使用臨時存儲的表來記錄分頁的id,使用分頁的id來進行 in 查詢。這樣能夠極大的提高傳統的分頁查詢速度,尤其是數據量上千萬的時候。

關于數據表的id說明

一般情況下,在數據庫中建立表的時候,強制為每一張表添加 id 遞增字段,這樣方便查詢。

如果像是訂單庫等數據量非常龐大,一般會進行分庫分表。這個時候不建議使用數據庫的 id 作為唯一標識,而應該使用分布式的高并發唯一 id 生成器來生成,并在數據表中使用另外的字段來存儲這個唯一標識。

使用先使用范圍查詢定位 id (或者索引),然后再使用索引進行定位數據,能夠提高好幾倍查詢速度。即先 select id,然后再 select *;


注:相關教程知識閱讀請移步到MYSQL教程頻道。
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
97超级碰碰碰| 国产精品美女无圣光视频| 国模精品系列视频| www.日韩av.com| 国产精品 欧美在线| 欧美壮男野外gaytube| 欧美大尺度激情区在线播放| 国产一区二区日韩精品欧美精品| 欧美一区亚洲一区| 日本成人在线视频网址| 欧美性xxxx极品hd欧美风情| 欧美一级视频在线观看| 亚洲欧美一区二区三区在线| 清纯唯美日韩制服另类| 欧美劲爆第一页| 亚洲精品第一国产综合精品| 91精品国产自产在线| 国产不卡精品视男人的天堂| 亚洲国产精品专区久久| 成人黄在线观看| 欧美性xxxxx极品娇小| 欧美丰满老妇厨房牲生活| xxx一区二区| 亚洲精品福利资源站| 欧美午夜美女看片| 一区二区中文字幕| 久久久精品一区二区三区| 国产中文字幕91| 成人黄色在线观看| 国产成人av网址| 国产精品久久久久久久久久免费| www国产精品com| 国产精品久久久久久久久影视| 欧美日韩在线免费| 最近免费中文字幕视频2019| 欧美日韩在线观看视频| 成人h猎奇视频网站| 国产香蕉精品视频一区二区三区| 成人在线视频网| xvideos亚洲人网站| 亚洲美女激情视频| 中文国产亚洲喷潮| 亚洲精品国产精品乱码不99按摩| 欧美日韩午夜视频在线观看| 亚洲午夜久久久久久久| 欧美理论电影在线播放| 美女视频黄免费的亚洲男人天堂| 欧美亚洲午夜视频在线观看| 青青精品视频播放| 亚洲天堂免费视频| 久久99久久久久久久噜噜| 粗暴蹂躏中文一区二区三区| 亚洲无亚洲人成网站77777| 日韩av一区在线| 国语自产精品视频在线看| 夜夜狂射影院欧美极品| 欧美与黑人午夜性猛交久久久| 欧美裸身视频免费观看| 国产精品中文字幕在线观看| 欧美精品在线看| 亚洲人成电影在线观看天堂色| 久久精品成人动漫| 欧美一区二区三区图| 97香蕉久久超级碰碰高清版| 亚洲一区999| 亚洲欧美日韩国产精品| 久久久久久久网站| 国产在线精品一区免费香蕉| 26uuu另类亚洲欧美日本老年| 欧美专区在线观看| 亚洲男人天堂网站| 国产精品视频久久| 欧美高清在线播放| 国产精品久久久久久久电影| 亚洲护士老师的毛茸茸最新章节| 成人激情春色网| 亚洲偷熟乱区亚洲香蕉av| 欧美激情国内偷拍| 亚洲国产成人精品女人久久久| 亚洲欧洲在线观看| 亚洲网站在线播放| 黄色成人在线免费| 69国产精品成人在线播放| 成人国产精品一区| 亚洲人成在线电影| 亚洲欧美在线x视频| 日韩成人xxxx| 亚洲免费视频一区二区| 欧美一级视频在线观看| 午夜精品久久久久久久男人的天堂| 日韩av在线一区| 日韩中文字幕在线视频播放| 国产精品久久在线观看| 欧美激情网站在线观看| 亚洲一区美女视频在线观看免费| 国产亚洲aⅴaaaaaa毛片| 亚洲女人被黑人巨大进入al| 777国产偷窥盗摄精品视频| 国产成人精品一区二区三区| 欧美电影免费播放| 91精品国产成人www| 日韩欧美一区二区三区久久| 91精品久久久久久久久青青| 欧美午夜xxx| 欧美大尺度激情区在线播放| 欧美日韩成人在线播放| 国产精品美女免费视频| 亚洲专区国产精品| 亚洲精品在线不卡| 一本一本久久a久久精品牛牛影视| 久久久久久97| 国产一区二区黄| 国产精品美女久久久久久免费| www.午夜精品| 成人国产在线激情| 在线观看精品国产视频| 亚洲成**性毛茸茸| 91久久国产精品| 欧美一级黑人aaaaaaa做受| 中文字幕欧美精品日韩中文字幕| 国产成人在线视频| 久久人91精品久久久久久不卡| 97成人在线视频| 在线观看亚洲区| 91精品啪在线观看麻豆免费| 精品国内自产拍在线观看| 欧美精品情趣视频| 国产精品久久久久7777婷婷| 色爱av美腿丝袜综合粉嫩av| 久久成年人免费电影| 国产精品夜间视频香蕉| 日韩成人中文字幕| 精品国产美女在线| 国产精品久久久久久久电影| 性色av一区二区三区在线观看| 日韩视频免费观看| 欧美日韩国产专区| 揄拍成人国产精品视频| 91美女片黄在线观看游戏| 综合激情国产一区| 亚洲最大成人网色| 92裸体在线视频网站| 成人午夜高潮视频| 欧美日韩国产麻豆| 日韩在线视频中文字幕| 久久69精品久久久久久国产越南| 久久精品国产一区二区电影| 在线观看欧美视频| 日韩在线小视频| 国产日韩在线看| 九九精品视频在线| 欧美日韩国产限制| 亚洲成人精品久久| 欧美性xxxxhd| 日韩av电影在线免费播放| 97精品欧美一区二区三区| 欧美成人中文字幕在线| 国产福利视频一区| 欧美激情日韩图片| 亚洲精品视频播放| 97久久超碰福利国产精品…| 成人国产在线视频| 26uuu另类亚洲欧美日本一| 欧美日本高清一区|