亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 數據庫 > Redis > 正文

深入理解redis_memcached失效原理(小結)

2020-10-28 21:32:58
字體:
來源:轉載
供稿:網友

最近項目上出現了一個無法理解的BUG,用戶默認每天享有一定次數的權限,使用完畢則無法享用,第二天才能再繼續。本質就是redis緩存過期嘛,讓它凌晨12點失效就好了。

但是問題發生了,它就是沒失效...深究其原因,竟是由于零界點沒處理好的鍋,服務器時間與request時間是有些許時間差的,key的expire到了一定數量處理也是需要時間噠,就這倆主因。加個存在判斷,失效給他提前個10秒留個準備就好了~

所以吸取教訓,好好了解一下這個失效機理,同時也提醒各位別范這種低級錯誤。

 一。如何才能觸發key的失效?

除了調用PERSIST命令外,還有沒有其他情況會撤銷一個主鍵的失效時間?答案是肯定的。

    1.在通過 DEL 命令刪除一個主鍵時
    2.在一個設置了失效時間的主鍵被更新覆蓋時,該主鍵的失效時間也會被撤銷。
    3.特殊的命令就是 RENAME,當我們使用 RENAME 對一個主鍵進行重命名后,之前關聯的失效時間會自動傳遞給新的主鍵,但是如果一個主鍵是被RENAME所覆蓋的話(如主鍵 hello 可能會被命令 RENAME world hello 所覆蓋),這時被覆蓋主鍵的失效時間會被自動撤銷,而新的主鍵則繼續保持原來主鍵的特性。

注意,這里所說的是主鍵被更新覆蓋,而不是主鍵對應的 Value 被更新覆蓋,因此 SET、MSET 或者是 GETSET 可能會導致主鍵被更新覆蓋,而像 INCR、DECR、LPUSH、HSET 等都是更新主鍵對應的值,這類操作是不會觸碰主鍵的失效時間的。

二。Redis是如何管理和維護主鍵的

1).Redis的存儲結構

typedef struct redisDb {  dict *dict;//存儲主鍵和值的映射  dict *expires;//存儲主鍵和過期時間的映射  dict *blocking_keys;  dict *ready_keys;  dict *watched_keys;  int id;} redisDb;

主要看前兩個結構就好,
dict:用來維護一個 Redis 數據庫中包含的所有 Key-Value 對(其結構可以理解為 dict[key]:value,即主鍵與值之間的映射)

expires:用于維護一個 Redis 數據庫中設置了失效時間的主鍵(其結構可以理解為 expires[key]:timeout,即主鍵與失效時間的映射)。

設置了失效時間的主鍵和具體的失效時間全部都維護在 expires 這個字典表中

當我們使用 EXPIRE、EXPIREAT、PEXPIRE 和 PEXPIREAT 命令設置一個主鍵的失效時間時,
Redis 首先到 dict 這個字典表中查找要設置的主鍵是否存在,如果存在就將這個主鍵和失效時間添加到 expires 這個字典表。

2).消極方法

1.expireIfNeeded函數

觸發:這個函數在任何訪問數據的函數中都會被調用,Redis 在實現 GET、MGET、HGET、LRANGE 等所有涉及到讀取數據的命令時都會調用它

意義:在讀取數據之前先檢查一下該key有沒有失效,如果失效了就刪除它。

2.propagateExpire函數(在上邊一個函數中調用) 主要函數

觸發:執行上一個函數時,它在其里邊

意義:用來在正式刪除失效主鍵之前廣播這個主鍵已經失效的信息

操作:
    (1).一個是發送到 AOF文件,將刪除失效主鍵的這一操作以 DEL Key 的標準命令格式記錄下來;
    (2).發送到當前 Redis 服務器的所有 Slave,同樣將刪除失效主鍵的這一操作以 DEL Key 的標準命令格式告知這些 Slave 刪除各自的失效主鍵。

以上我們了解了 Redis 是如何以一種消極的方式刪除失效主鍵的,但是僅僅通過這種方式顯然是不夠的,因為如果某些失效的主鍵遲遲等不到再次訪問的話,Redis 就永遠不會知道這些主鍵已經失效,也就永遠也不會刪除它們了,這無疑會導致內存空間的浪費。所以有了下邊的方法。

3).積極方法:(該方法利用 Redis 的時間事件來實現,即每隔一段時間就中斷一下完成一些指定操作)

1.serverCron函數:

觸發:它在 Redis 服務器啟動時創建

作用:這個回調函數不僅要進行失效主鍵的檢查與刪除,還要進行統計信息的更新、客戶端連接超時的控制、BGSAVE 和 AOF 的觸發等等

2.activeExpireCycle函數:

觸發:執行上一個函數時,它在其里邊每秒的執行次數由宏定義 【REDIS_DEFAULT_HZ】 來指定,默認每秒鐘執行10次。

操作:
    a).遍歷處理 Redis 服務器中每個數據庫的 expires 字典表中,從中嘗試著隨機抽樣【REDIS_EXPIRELOOKUPS_PER_CRON】(默認 值為10)個設置了失效時間的主鍵,
    b).檢查它們是否已經失效并刪除掉失效的主鍵,
    c).如果失效的主鍵個數占本次抽樣個數的比例超過25%,Redis 會認為當前數據庫中的失效主鍵依然很多,所以它會繼續進行下一輪的隨機抽樣和刪除,
    d).直到剛才的比例低于25%才停止對當前數據庫的處理,轉向下一個數據庫。

其他:activeExpireCycle 函數避免失效主鍵刪除占用過多的CPU資源,所以其不會試圖一次性處理Redis中的所有數據庫,而是最多只處理 REDIS_DBCRON_DBS_PER_CALL(默認值為16)個庫,有處理時間上的限制

三。Memcached 刪除失效主鍵的方法與 Redis 有何異同?

首先,Memcached 在刪除失效主鍵時也是采用的消極方法,即 Memcached 內部也不會監視主鍵是否失效,而是在通過 Get 訪問主鍵時才會檢查其是否已經失效。

其次,Memcached 與 Redis 在主鍵失效機制上的最大不同是,Memcached 不會像 Redis 那樣真正地去刪除失效的主鍵,而只是簡單地將失效主鍵占用的空間回收。這樣當有新的數據寫入到系統中時,Memcached 會優先使用那些失效主鍵的空間。如果失效主鍵的空間用光了,Memcached 還可以通過 LRU 機制來回收那些長期得不到訪問的空間,

因此 Memcached 并不需要像 Redis 中那樣的周期性刪除操作,這也是由 Memcached 使用的內存管理機制決定的。同時,這里需要指出的是 Redis 在出現 OOM 時同樣可以通過配置 maxmemory-policy 這個參數來決定是否采用 LRU 機制來回收內存空間 

四??偨Y:

redis每秒執行10次過期檢查,每次中,隨機從某個庫的expire表中抽取10個key,檢測他是否失效,若失效則刪除。當失效比例超過1/4,本次重新執行隨機抽取10key,不計入10次中的1次,直到這一秒的10次都執行完。

問:

那么有人問了,萬一,萬一!失效的key做足夠的多,1秒的這10次都沒執行完又到下一秒了,咋整?

答:

redis有檢測機制的,不會讓它把CPU拖死的:

a.每次處理數據庫個數的限制、

b.activeExpireCycle 函數在一秒鐘內執行次數的限制、

c.分配給 activeExpireCycle函數CPU時間的限制、

d.繼續刪除主鍵的失效主鍵數百分比的限制,Redis 已經大大降低了主鍵失效機制對系統整體性能的影響,

所以由此也可得,設置失效時間的原則:盡可能避免在同一時間點的大批量key失效,它是需要處理時間的。

消極失效主要函數.propagateExpire函數:

void propagateExpire(redisDb *db, robj *key) {  robj *argv[2];  //shared.del是在Redis服務器啟動之初就已經初始化好的一個常用Redis對象,即DEL命令  argv[0] = shared.del;  argv[1] = key;  incrRefCount(argv[0]);  incrRefCount(argv[1]);  //檢查Redis服務器是否開啟了AOF,如果開啟了就為失效主鍵記錄一條DEL日志  if (server.aof_state != REDIS_AOF_OFF)    feedAppendOnlyFile(server.delCommand,db->id,argv,2);  //檢查Redis服務器是否擁有Slave,如果是就向所有Slave發送DEL失效主鍵的命令,這就是  //上面expireIfNeeded函數中發現自己是Slave時無需主動刪除失效主鍵的原因了,因為它  //只需聽從Master發送過來的命令就OK了  if (listLength(server.slaves))    replicationFeedSlaves(server.slaves,db->id,argv,2);  decrRefCount(argv[0]);  decrRefCount(argv[1]);}

積極失效主要函數.activeExpireCycle函數:

void activeExpireCycle(void) {  //因為每次調用activeExpireCycle函數不會一次性檢查所有Redis數據庫,所以需要記錄下  //每次函數調用處理的最后一個Redis數據庫的編號,這樣下次調用activeExpireCycle函數  //還可以從這個數據庫開始繼續處理,這就是current_db被聲明為static的原因,而另外一  //個變量timelimit_exit是為了記錄上一次調用activeExpireCycle函數的執行時間是否達  //到時間限制了,所以也需要聲明為static  static unsigned int current_db = 0;  static int timelimit_exit = 0;  unsigned int j, iteration = 0;  //每次調用activeExpireCycle函數處理的Redis數據庫個數為REDIS_DBCRON_DBS_PER_CALL  unsigned int dbs_per_call = REDIS_DBCRON_DBS_PER_CALL;  long long start = ustime(), timelimit;  //如果當前Redis服務器中的數據庫個數小于REDIS_DBCRON_DBS_PER_CALL,則處理全部數據庫,  //如果上一次調用activeExpireCycle函數的執行時間達到了時間限制,說明失效主鍵較多,也  //會選擇處理全部數據庫  if (dbs_per_call > server.dbnum || timelimit_exit)    dbs_per_call = server.dbnum;  //執行activeExpireCycle函數的最長時間(以微秒計),其中REDIS_EXPIRELOOKUPS_TIME_PERC  //是單位時間內能夠分配給activeExpireCycle函數執行的CPU時間比例,默認值為25,server.hz  //即為一秒內activeExpireCycle的調用次數,所以這個計算公式更明白的寫法應該是這樣的,即  (1000000 * (REDIS_EXPIRELOOKUPS_TIME_PERC / 100)) / server.hz  timelimit = 1000000*REDIS_EXPIRELOOKUPS_TIME_PERC/server.hz/100;  timelimit_exit = 0;  if (timelimit <= 0) timelimit = 1;  //遍歷處理每個Redis數據庫中的失效數據  for (j = 0; j < dbs_per_call; j++) {    int expired;    redisDb *db = server.db+(current_db % server.dbnum);    //此處立刻就將current_db加一,這樣可以保證即使這次無法在時間限制內刪除完所有當前    //數據庫中的失效主鍵,下一次調用activeExpireCycle一樣會從下一個數據庫開始處理,    //從而保證每個數據庫都有被處理的機會    current_db++;    //開始處理當前數據庫中的失效主鍵    do {      unsigned long num, slots;      long long now;      //如果expires字典表大小為0,說明該數據庫中沒有設置失效時間的主鍵,直接檢查下      //一數據庫      if ((num = dictSize(db->expires)) == 0) break;      slots = dictSlots(db->expires);      now = mstime();      //如果expires字典表不為空,但是其填充率不足1%,那么隨機選擇主鍵進行檢查的代價      //會很高,所以這里直接檢查下一數據庫      if (num && slots > DICT_HT_INITIAL_SIZE &&        (num*100/slots < 1)) break;      expired = 0;      //如果expires字典表中的entry個數不足以達到抽樣個數,則選擇全部key作為抽樣樣本      if (num > REDIS_EXPIRELOOKUPS_PER_CRON)        num = REDIS_EXPIRELOOKUPS_PER_CRON;      while (num--) {        dictEntry *de;        long long t;        //隨機獲取一個設置了失效時間的主鍵,檢查其是否已經失效        if ((de = dictGetRandomKey(db->expires)) == NULL) break;        t = dictGetSignedIntegerVal(de);        if (now > t) {          //發現該主鍵確實已經失效,刪除該主鍵          sds key = dictGetKey(de);          robj *keyobj = createStringObject(key,sdslen(key));          //同樣要在刪除前廣播該主鍵的失效信息          propagateExpire(db,keyobj);          dbDelete(db,keyobj);          decrRefCount(keyobj);          expired++;          server.stat_expiredkeys++;        }      }      //每進行一次抽樣刪除后對iteration加一,每16次抽樣刪除后檢查本次執行時間是否      //已經達到時間限制,如果已達到時間限制,則記錄本次執行達到時間限制并退出      iteration++;      if ((iteration & 0xf) == 0 &&        (ustime()-start) > timelimit)      {        timelimit_exit = 1;        return;      }    //如果失效的主鍵數占抽樣數的百分比大于25%,則繼續抽樣刪除過程    } while (expired > REDIS_EXPIRELOOKUPS_PER_CRON/4);  }}

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持武林網。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
亚洲视频在线观看免费| 国产精品专区第二| 国产精品自拍网| 欧美片一区二区三区| 国产精品久久久一区| 91禁国产网站| 日韩专区在线观看| 亚洲欧洲国产伦综合| 久久天堂av综合合色| 亚洲香蕉成人av网站在线观看| 亚洲欧美中文字幕在线一区| 国产精品久久婷婷六月丁香| 国产精品极品尤物在线观看| 国产99在线|中文| 国产日韩精品在线观看| 欧美国产欧美亚洲国产日韩mv天天看完整| 欧美极度另类性三渗透| 亚洲国产精品女人久久久| 国产精品普通话| 欧美日韩成人免费| 欧美日韩精品在线| 91精品国产综合久久香蕉922| 8x海外华人永久免费日韩内陆视频| 久久黄色av网站| 日韩精品在线视频观看| 国产精品天天狠天天看| 欧美日本国产在线| 国产精品久久久精品| 国产精品r级在线| 成人免费观看49www在线观看| 日韩的一区二区| 欧美一区二区三区精品电影| 成人午夜一级二级三级| 精品精品国产国产自在线| 欧美极品美女视频网站在线观看免费| 色综合久久久888| 97碰碰碰免费色视频| 97在线视频观看| 欧美中文在线观看国产| 精品久久久中文| 国产一区二区在线播放| 亚洲欧美日本精品| 久久九九亚洲综合| 黄色一区二区在线| 久久综合免费视频影院| 欧美日韩亚洲视频一区| 欧美日本啪啪无遮挡网站| 国产99久久精品一区二区 夜夜躁日日躁| 国产亚洲精品久久久久久777| 日韩美女在线观看一区| 精品无人区乱码1区2区3区在线| 国产在线视频不卡| 亚洲va欧美va在线观看| 日韩在线视频播放| 欧美亚洲日本黄色| 欧美成年人网站| 亚洲成人黄色在线观看| 奇米一区二区三区四区久久| 69av在线视频| 国产精品嫩草影院久久久| 亚洲国产精品人人爽夜夜爽| 性欧美激情精品| 91精品国产高清久久久久久| 日韩成人激情影院| 亚洲视频在线观看视频| 国产91精品黑色丝袜高跟鞋| 欧美成年人视频网站欧美| 国产精品日日摸夜夜添夜夜av| 在线视频一区二区| 777国产偷窥盗摄精品视频| 欧美激情小视频| 久久久久日韩精品久久久男男| 97香蕉超级碰碰久久免费的优势| 国产精品亚洲美女av网站| 8x海外华人永久免费日韩内陆视频| 日韩欧美黄色动漫| 欧美黑人xxxⅹ高潮交| 亚洲精品ady| 国产精品久久99久久| 日韩在线免费视频| 国产亚洲aⅴaaaaaa毛片| 亚洲精品一区二区网址| 欧美大尺度电影在线观看| 亚洲少妇中文在线| 日本精品视频在线| 国产精品久久久久久久久久小说| 国产精品久久久久久亚洲影视| 精品偷拍各种wc美女嘘嘘| 亚洲成人中文字幕| 永久免费看mv网站入口亚洲| 亚洲福利在线播放| 国产美女精彩久久| 成人免费网站在线看| 久久久久这里只有精品| 日韩欧美在线视频观看| 最近2019年好看中文字幕视频| 国产精品精品久久久| 性欧美暴力猛交69hd| 亚洲欧美成人一区二区在线电影| 裸体女人亚洲精品一区| 中文字幕精品影院| 92国产精品视频| 亚洲国产婷婷香蕉久久久久久| 欧美极品少妇xxxxⅹ免费视频| 97精品一区二区视频在线观看| 77777少妇光屁股久久一区| 日韩av在线免费| 日韩av电影在线网| 久久精品99无色码中文字幕| 丰满岳妇乱一区二区三区| 欧美激情精品久久久久久蜜臀| 亚洲人精选亚洲人成在线| 国产亚洲精品久久久久久777| 国产亚洲视频在线观看| 国产在线视频2019最新视频| 韩国精品美女www爽爽爽视频| 精品久久久久久电影| 国产日韩中文字幕| 57pao国产精品一区| 欧美成年人视频网站欧美| 欧美黄色www| 国模吧一区二区| 精品欧美aⅴ在线网站| 国产中文欧美精品| 91丨九色丨国产在线| 欧美午夜丰满在线18影院| 久久久www成人免费精品张筱雨| 精品亚洲aⅴ在线观看| 成人免费黄色网| 深夜福利日韩在线看| 久久久999精品免费| 亚洲免费视频网站| 亚洲免费伊人电影在线观看av| 欧美美女15p| 久热国产精品视频| 亚洲一区二区三区久久| 亚洲成人亚洲激情| 九九热r在线视频精品| 亚洲国产婷婷香蕉久久久久久| 日韩免费在线播放| 欧美精品九九久久| 九九热在线精品视频| www.欧美视频| 欧美黄色片免费观看| 亚洲欧美成人一区二区在线电影| 欧美日韩国产va另类| 国产在线不卡精品| 午夜美女久久久久爽久久| 国产精品中文字幕在线观看| 91超碰caoporn97人人| 久久91精品国产| 成人网在线观看| 精品中文字幕在线2019| 精品色蜜蜜精品视频在线观看| 色伦专区97中文字幕| 国产成人精彩在线视频九色| 亚洲一区第一页| 亚洲欧洲一区二区三区久久| 上原亚衣av一区二区三区| 久久久久久久国产精品视频| 国产成人福利网站| 国产欧美精品一区二区| 色妞在线综合亚洲欧美| 日韩精品久久久久久福利|