[[341764]]

我是Redis你好，我是Redis，一個(gè)叫Antirez的男人把我?guī)У搅诉@個(gè)世界上。

說起我的誕生，跟關(guān)系數(shù)據(jù)庫MySQL還挺有淵源的。

在我還沒來到這個(gè)世界上的時(shí)候，MySQL過的很辛苦，互聯(lián)網(wǎng)發(fā)展的越來越快，它容納的數(shù)據(jù)也越來越多，用戶請求也隨之暴漲，而每一個(gè)用戶請求都變成了對它的一個(gè)又一個(gè)讀寫操作，MySQL是苦不堪言。尤其是到“雙11”、“618“這種全民購物狂歡的日子，都是MySQL受苦受難的日子。

據(jù)后來MySQL告訴我說，其實(shí)有一大半的用戶請求都是讀操作，而且經(jīng)常都是重復(fù)查詢一個(gè)東西，浪費(fèi)它很多時(shí)間去進(jìn)行磁盤I/O。

后來有人就琢磨，是不是可以學(xué)學(xué)CPU，給數(shù)據(jù)庫也加一個(gè)緩存呢?于是我就誕生了!

出生不久，我就和MySQL成為了好朋友，我們倆常常攜手出現(xiàn)在后端服務(wù)器中。

應(yīng)用程序們從MySQL查詢到的數(shù)據(jù)，在我這里登記一下，后面再需要用到的時(shí)候，就先找我要，我這里沒有再找MySQL要。

為了方便使用，我支持好幾種數(shù)據(jù)結(jié)構(gòu)的存儲(chǔ)：

• String
• Hash
• List
• Set
• SortedSet
• Bitmap
• ······

因?yàn)槲野训怯浀臄?shù)據(jù)都記錄在內(nèi)存中，不用去執(zhí)行慢如蝸牛的I/O操作，所以找我要比找MySQL要省去了不少的時(shí)間呢。

可別小瞧這簡單的一個(gè)改變，我可為MySQL減輕了不小的負(fù)擔(dān)!隨著程序的運(yùn)行，我緩存的數(shù)據(jù)越來越多，有相當(dāng)部分時(shí)間我都給它擋住了用戶請求，這一下它可樂得清閑自在了!

有了我的加入，網(wǎng)絡(luò)服務(wù)的性能提升了不少，這都?xì)w功于我為數(shù)據(jù)庫挨了不少槍子兒。

緩存過期 && 緩存淘汰

不過很快我發(fā)現(xiàn)事情不妙了，我緩存的數(shù)據(jù)都是在內(nèi)存中，可是就算是在服務(wù)器上，內(nèi)存的空間資源還是很有限的，不能無節(jié)制的這么存下去，我得想個(gè)辦法，不然吃棗藥丸。

不久，我想到了一個(gè)辦法：給緩存內(nèi)容設(shè)置一個(gè)超時(shí)時(shí)間，具體設(shè)置多長交給應(yīng)用程序們?nèi)ピO(shè)置，我要做的就是把過期了的內(nèi)容從我里面刪除掉，及時(shí)騰出空間就行了。

超時(shí)時(shí)間有了，我該在什么時(shí)候去干這個(gè)清理的活呢?

最簡單的就是定期刪除，我決定100ms就做一次，一秒鐘就是10次!

我清理的時(shí)候也不能一口氣把所有過期的都給刪除掉，我這里面存了大量的數(shù)據(jù)，要全面掃一遍的話那不知道要花多久時(shí)間，會(huì)嚴(yán)重影響我接待新的客戶請求的!

時(shí)間緊任務(wù)重，我只好隨機(jī)選擇一部分來清理，能緩解內(nèi)存壓力就行了。

就這樣過了一段日子，我發(fā)現(xiàn)有些個(gè)鍵值運(yùn)氣比較好，每次都沒有被我的隨機(jī)算法選中，每次都能幸免于難，這可不行，這些長時(shí)間過期的數(shù)據(jù)一直霸占著不少的內(nèi)存空間!氣抖冷!

我眼里可揉不得沙子!于是在原來定期刪除的基礎(chǔ)上，又加了一招：

那些原來逃脫我隨機(jī)選擇算法的鍵值，一旦遇到查詢請求，被我發(fā)現(xiàn)已經(jīng)超期了，那我就絕不客氣，立即刪除。

這種方式因?yàn)槭潜粍?dòng)式觸發(fā)的，不查詢就不會(huì)發(fā)生，所以也叫惰性刪除!

可是，還是有部分鍵值，既逃脫了我的隨機(jī)選擇算法，又一直沒有被查詢，導(dǎo)致它們一直逍遙法外!而于此同時(shí)，可以使用的內(nèi)存空間卻越來越少。

而且就算退一步講，我能夠把過期的數(shù)據(jù)都刪除掉，那萬一過期時(shí)間設(shè)置的很長，還沒等到我去清理，內(nèi)存就吃滿了，一樣要吃棗藥丸，所以我還得想個(gè)辦法。

我苦思良久，終于憋出了個(gè)大招：內(nèi)存淘汰策略，這一次我要徹底解決問題!

我提供了8種策略供應(yīng)用程序選擇，用于我遇到內(nèi)存不足時(shí)該如何決策：

• noeviction：返回錯(cuò)誤，不會(huì)刪除任何鍵值
• allkeys-lru：使用LRU算法刪除最近最少使用的鍵值
• volatile-lru：使用LRU算法從設(shè)置了過期時(shí)間的鍵集合中刪除最近最少使用的鍵值
• allkeys-random：從所有key隨機(jī)刪除
• volatile-random：從設(shè)置了過期時(shí)間的鍵的集合中隨機(jī)刪除
• volatile-ttl：從設(shè)置了過期時(shí)間的鍵中刪除剩余時(shí)間最短的鍵
• volatile-lfu：從配置了過期時(shí)間的鍵中刪除使用頻率最少的鍵
• allkeys-lfu：從所有鍵中刪除使用頻率最少的鍵

有了上面幾套組合拳，我再也不用擔(dān)心過期數(shù)據(jù)多了把空間撐滿的問題了~

緩存穿透 && 布隆過濾器

我的日子過的還挺舒坦，不過MySQL大哥就沒我這么舒坦了，有時(shí)候遇到些煩人的請求，查詢的數(shù)據(jù)不存在，MySQL就要白忙活一場!不僅如此，因?yàn)椴淮嬖冢乙矝]法緩存啊，導(dǎo)致同樣的請求來了每次都要去讓MySQL白忙活一場。我作為緩存的價(jià)值就沒得到體現(xiàn)啦!這就是人們常說的緩存穿透。

這一來二去，MySQL大哥忍不住了：“唉，兄弟，能不能幫忙想個(gè)辦法，把那些明知道不會(huì)有結(jié)果的查詢請求給我擋一下”

這時(shí)我想到了我的另外一個(gè)好朋友：布隆過濾器

我這位朋友別的本事沒有，就擅長從超大的數(shù)據(jù)集中快速告訴你查找的數(shù)據(jù)存不存在(悄悄告訴你，我的這位朋友有一點(diǎn)不靠譜，它告訴你存在的話不能全信，其實(shí)有可能是不存在的，不過它他要是告訴你不存在的話，那就一定不存在)。

我把這位朋友介紹給了應(yīng)用程序，不存在的數(shù)據(jù)就不必去叨擾MySQL了，輕松幫忙解決了緩存穿透的問題。

緩存擊穿 && 緩存雪崩

這之后過了一段時(shí)間太平日子，直到那一天···

有一次，MySQL那家伙正優(yōu)哉游哉的摸魚，突然一大堆請求給他懟了過去，給他打了一個(gè)措手不及。

一陣忙活之后，MySQL怒氣沖沖的找到了我，“兄弟，咋回事啊，怎么一下子來的這么猛”

我查看了日志，趕緊解釋到：“大哥，實(shí)在不好意思，剛剛有一個(gè)熱點(diǎn)數(shù)據(jù)到了過期時(shí)間，被我刪掉了，不巧的是隨后就有對這個(gè)數(shù)據(jù)的大量查詢請求來了，我這里已經(jīng)刪了，所以請求都發(fā)到你那里來了”

“你這干的叫啥事，下次注意點(diǎn)啊”，MySQL大哥一臉不高興的離開了。

這一件小事我也沒怎么放在心上，隨后就拋之腦后了，卻沒曾想幾天之后竟捅了更大的簍子。

那一天，又出現(xiàn)了大量的網(wǎng)絡(luò)請求發(fā)到了MySQL那邊，比上一次的規(guī)模大得多，MySQL大哥一會(huì)兒功夫就給干趴下了好幾次!

等了好半天這一波流量才算過去，MySQL才緩過神來。

“老弟，這一次又是什么原因?”，MySQL大哥累的沒了力氣。

“這一次比上一次更不巧，這一次是一大批數(shù)據(jù)幾乎同時(shí)過了有效期，然后又發(fā)生了很多對這些數(shù)據(jù)的請求，所以比起上一次這規(guī)模更大了”

MySQL大哥聽了眉頭一皺，“那你倒是想個(gè)辦法啊，三天兩頭折磨我，這誰頂?shù)米“?”

“其實(shí)我也很無奈，這個(gè)時(shí)間也不是我設(shè)置的，要不我去找應(yīng)用程序說說，讓他把緩存過期時(shí)間設(shè)置的均勻一些?至少別讓大量數(shù)據(jù)集體失效”

“走，咱倆一起去”

后來，我倆去找應(yīng)用程序商量了，不僅把鍵值的過期時(shí)間隨機(jī)了一下，還設(shè)置了熱點(diǎn)數(shù)據(jù)永不過期，這個(gè)問題緩解了不少。哦對了，我們還把這兩次發(fā)生的問題分別取了個(gè)名字：緩存擊穿和緩存雪崩。

我們終于又過上了舒適的日子···

本文轉(zhuǎn)載自微信公眾號「編程技術(shù)宇宙」，可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請聯(lián)系編程技術(shù)宇宙公眾號。