完了！CPU一味求快出事兒了！
本文轉載自微信公眾號「編程技術宇宙」，轉載本文請聯系編程技術宇宙公眾號。
自我介紹我叫阿Q，是CPU一號車間里的員工，我所在的這個CPU足足有8個核，就有8個車間，干起活來杠杠滴。
我所在的一號車間里，除了負責執行指令的我，還有負責取指令的小A，負責分析指令的小胖和負責結果回寫的老K。
CPU的每個車間都有一堆箱子，人們把這些箱子叫做寄存器，我所在的一號車間也不例外，我們每天的工作就是不斷執行指令，然后折騰這些箱子，往里面存東西取東西。
由于我們四個人的出色工作，一號車間業績突出，在年會上還多次獲得了最佳CPU核心獎呢。
緩存我們每天都需要跟內存打交道，不過由于內存這家伙實在太慢了，我們浪費了很多時間等待他給我們數據傳輸。
終于有一天，上面給我們下了命令，說競爭對手CPU的速度快趕上我們了，讓我們想辦法提升工作效率。這一下可難倒了我們，我們平時干活絕沒有偷懶，要怪只能怪內存那家伙，是他拖了我們后腿。
一天晚上，我們哥四個在一起聚餐，討論起上面的這道命令來，大家都紛紛嘆氣。
就在一籌莫展之際，老K提出了一個想法：“兄弟們，我發現了一個現象，咱們和內存打交道的時候，如果訪問了某個地址的數據，它周圍的數據隨后也大概率會被訪問到”，說到這里，老K停頓了一下。
我一邊聽一邊想著，小A倒是先開口：“然后呢?你想表達什么意思?”
老K繼續說道：“咱每次數據都找內存要，太慢了，我尋思在咱們車間劃一塊區域，結合我發現的那個現象，以后讓內存一次性把目標區域附近的數據一起給我們，我們存在這塊區域，后面在需要用到的時候就先去這里找，找不到再去找內存要，豈不省事?”
聽老K這么一描述，感覺靠譜，我也趕緊附和：“好辦法!你們看啊，這內存老是拖咱后退，但是這家伙一時半會也快不起來，要不咱先用這招試試，看看能不能加快一點工作效率，給上面也有個交代。”
說干就干，我們很快就付諸實踐了，我們還給這技術取了個名字叫緩存，效果居然出奇的好，后來為了進一步優化，我們還把緩存分為了兩塊，一塊離寄存器很近叫一級緩存，剩下的叫二級緩存。一級緩存中進一步分了指令緩存和數據緩存兩塊。
我們車間的工作效率那是飛速提升，但不知道是誰走漏了風聲，其他幾個車間也知道了這項技術，紛紛效仿。
這天，為了業績，我們決定再加第三級緩存，這次把空間弄大點，不過咱們車間地盤有點局促，放不下，我們偷偷給上面領導反饋了這事兒，想讓領導幫我們協調一下。
領導倒是同意了，不過告訴我們他得一碗水端平，平衡各車間的利益。但是咱廠里空間也有限，不可能給每個車間都分配那么大的空間，于是決定由廠里統一安排一塊大的區域，讓各個車間來共享。沒有辦法，我們也只好同意了。
現在，我們用上了三級緩存技術，內存那家伙拖后腿的現象緩解了不少，相當部分時間我們都能從這三級緩存里面找到我們需要的數據。
亂序執行隨著技術的發展，咱們CPU工廠的工作性能也是不斷攀升，慢慢的，我們幾個又開始閑下來了，因為我們實在太快了，盡管有了緩存，但我們還是有了不少閑暇時間。
這天我還是像往常一樣，小A取指令去了，我們知道這得要點時間，于是我和小胖還有老K我們仨斗起了地主。
打了好幾把，小A才氣喘吁吁的回來，“小胖，該你去指令分析了，你起來讓我來打幾把”。小胖趕緊起身干活，換上了小A上桌。
就這樣我們幾個輪流工作，一直保持著三個人的斗地主牌桌。
沒想到的是，沒過多久，廠里領導過來視察了，正好撞見我們幾個打牌，狠狠的訓斥了我們一頓。
“你們幾個上班時間玩得挺嗨啊”，領導的臉拉的老長。
“領導，我們沒有偷懶，這取指令、譯碼、執行、回寫幾個步驟都得分步執行，但是我們工作太快，存儲器跟不上我們，我們等得無聊打發時間嘛”，我上前解釋到。
“干等著你們也可以提前做一些后面的準備工作嘛，不要浪費時間，讓生產效率更上一層樓”，領導說完就離開了，留下我們幾個面面相覷。
不過領導的一番話倒是如一記重錘敲在我的頭上，對啊，我們有這打牌的時間不如提前把后續指令的準備工作先做了，肯定能提升不少效率呢!
我開始組織兄弟幾個商討方案，“兄弟們，我們最主要的時間都浪費在等待內存數據上了，如果我們能在等待的時間里把后續指令需要的數據提前準備到緩存中來，那可就節約不少時間了，不用每次都等那么久。”
老K聽后很贊賞我的思路，并補充到：“不僅是準備工作，像有些指令，比如加法，如果參與加法的數據不依賴前面指令的結果，咱們完全可以提前把這加法指令執行了嘛，把結果保存在緩存中，等真正輪到這條指令執行的時候，再把緩存中的結果寫到內存中，這不也是節約了時間嗎”
大家開始頭腦風暴起來，原來可以做的事情還這么多，之前光想著等靠要，現在要主動出擊了，因為打亂了順序提前會執行后面的指令，我們把這個技術叫做亂序執行.
“這次大家要保密哦，不能讓隔壁車間知道咱們的這次討論內容”，會議結束前，我提醒大家。
分支預測按照這次會議討論的結果，咱們第二天準備實行，不過剛一開始，就遇到了麻煩。
按照計劃，我們在空閑時間里，會提前把后續要執行的指令能做的工作先做了，但麻煩的是我們遇到了一條判斷指令，因為不知道最終結果是true還是false，我們沒法知道后續是應該執行分支A的指令還是分支B的指令。不敢輕舉妄動，怕一會做了無用功。
大家只好放棄了提前做準備工作的想法，還是一步步來。
不過很快我們發現，我們經常執行到這個判斷指令，而且每次結果都是去執行A分支，從沒有去過B分支。
于是我們幾個又商量，發明了一種叫分支預測的技術，遇到分支跳轉時，按照之前的經驗，如果某個分支經常被執行，那后續再去這個分支的概率一定很大，那這樣咱們預測后面會去到這個分支，就提前把這個分支后面指令能做的工作先做了。
果然，用上了分支預測和亂序執行后，我們車間的效率又狠狠的提升了一把，在工廠的集體大會上又一次表揚了我們，并且把我們的先進技術向全廠推廣。
