垃圾回收的瓶頸

傳統(tǒng)分代垃圾回收方式，已經(jīng)在一定程度上把垃圾回收給應(yīng)用帶來的負(fù)擔(dān)降到了最小，把應(yīng)用的吞吐量推到了一個(gè)極限。但是他無法解決的一個(gè)問題，就是Full GC所帶來的應(yīng)用暫停。在一些對(duì)實(shí)時(shí)性要求很高的應(yīng)用場(chǎng)景下，GC暫停所帶來的請(qǐng)求堆積和請(qǐng)求失敗是無法接受的。這類應(yīng)用可能要求請(qǐng)求的返回時(shí)間在幾百甚至幾十毫秒以內(nèi)，如果分代垃圾回收方式要達(dá)到這個(gè)指標(biāo)，只能把最大堆的設(shè)置限制在一個(gè)相對(duì)較小范圍內(nèi)，但是這樣有限制了應(yīng)用本身的處理能力，同樣也是不可接收的。

分代垃圾回收方式確實(shí)也考慮了實(shí)時(shí)性要求而提供了并發(fā)回收器，支持最大暫停時(shí)間的設(shè)置，但是受限于分代垃圾回收的內(nèi)存劃分模型，其效果也不是很理想。

為了達(dá)到實(shí)時(shí)性的要求（其實(shí)Java語言最初的設(shè)計(jì)也是在嵌入式系統(tǒng)上的），一種新垃圾回收方式呼之欲出，它既支持短的暫停時(shí)間，又支持大的內(nèi)存空間分配。可以很好的解決傳統(tǒng)分代方式帶來的問題。

增量收集的演進(jìn)

增量收集的方式在理論上可以解決傳統(tǒng)分代方式帶來的問題。增量收集把對(duì)堆空間劃分成一系列內(nèi)存塊，使用時(shí)，先使用其中一部分（不會(huì)全部用完），垃圾收集時(shí)把之前用掉的部分中的存活對(duì)象再放到后面沒有用的空間中，這樣可以實(shí)現(xiàn)一直邊使用邊收集的效果，避免了傳統(tǒng)分代方式整個(gè)使用完了再暫停的回收的情況。

當(dāng)然，傳統(tǒng)分代收集方式也提供了并發(fā)收集，但是他有一個(gè)很致命的地方，就是把整個(gè)堆做為一個(gè)內(nèi)存塊，這樣一方面會(huì)造成碎片（無法壓縮），另一方面他的每次收集都是對(duì)整個(gè)堆的收集，無法進(jìn)行選擇，在暫停時(shí)間的控制上還是很弱。而增量方式，通過內(nèi)存空間的分塊，恰恰可以解決上面問題。

Garbage Firest（G1）

這部分的內(nèi)容主要參考這里，這篇文章算是對(duì)G1算法論文的解讀。我也沒加什么東西了。

目  標(biāo)

從設(shè)計(jì)目標(biāo)看G1完全是為了大型應(yīng)用而準(zhǔn)備的。

支持很大的堆
高吞吐量
--支持多CPU和垃圾回收線程
--在主線程暫停的情況下，使用并行收集
--在主線程運(yùn)行的情況下，使用并發(fā)收
實(shí)時(shí)目標(biāo)：可配置在N毫秒內(nèi)最多只占用M毫秒的時(shí)間進(jìn)行垃圾回收

當(dāng)然G1要達(dá)到實(shí)時(shí)性的要求，相對(duì)傳統(tǒng)的分代回收算法，在性能上會(huì)有一些損失。

算法詳解

G1可謂博采眾家之長(zhǎng)，力求到達(dá)一種完美。他吸取了增量收集優(yōu)點(diǎn)，把整個(gè)堆劃分為一個(gè)一個(gè)等大小的區(qū)域（region）。內(nèi)存的回收和劃分都以region為單位；同時(shí)，他也吸取了CMS的特點(diǎn)，把這個(gè)垃圾回收過程分為幾個(gè)階段，分散一個(gè)垃圾回收過程；而且，G1也認(rèn)同分代垃圾回收的思想，認(rèn)為不同對(duì)象的生命周期不同，可以采取不同收集方式，因此，它也支持分代的垃圾回收。為了達(dá)到對(duì)回收時(shí)間的可預(yù)計(jì)性，G1在掃描了region以后，對(duì)其中的活躍對(duì)象的大小進(jìn)行排序，首先會(huì)收集那些活躍對(duì)象小的region，以便快速回收空間（要復(fù)制的活躍對(duì)象少了），因?yàn)榛钴S對(duì)象小，里面可以認(rèn)為多數(shù)都是垃圾，所以這種方式被稱為Garbage First（G1）的垃圾回收算法，即：垃圾優(yōu)先的回收。

回收步驟：

初始標(biāo)記（Initial Marking）

G1對(duì)于每個(gè)region都保存了兩個(gè)標(biāo)識(shí)用的bitmap，一個(gè)為previous marking bitmap，一個(gè)為next marking bitmap，bitmap中包含了一個(gè)bit的地址信息來指向?qū)ο蟮钠鹗键c(diǎn)。

開始Initial Marking之前，首先并發(fā)的清空next marking bitmap，然后停止所有應(yīng)用線程，并掃描標(biāo)識(shí)出每個(gè)region中root可直接訪問到的對(duì)象，將region中top的值放入next top at mark start（TAMS）中，之后恢復(fù)所有應(yīng)用線程。

觸發(fā)這個(gè)步驟執(zhí)行的條件為：

并發(fā)標(biāo)記（Concurrent Marking）

按照之前Initial Marking掃描到的對(duì)象進(jìn)行遍歷，以識(shí)別這些對(duì)象的下層對(duì)象的活躍狀態(tài)，對(duì)于在此期間應(yīng)用線程并發(fā)修改的對(duì)象的以來關(guān)系則記錄到remembered set logs中，新創(chuàng)建的對(duì)象則放入比top值更高的地址區(qū)間中，這些新創(chuàng)建的對(duì)象默認(rèn)狀態(tài)即為活躍的，同時(shí)修改top值。

最終標(biāo)記暫停（Final Marking Pause）

當(dāng)應(yīng)用線程的remembered set logs未滿時(shí)，是不會(huì)放入filled RS buffers中的，在這樣的情況下，這些remebered set logs中記錄的card的修改就會(huì)被更新了，因此需要這一步，這一步要做的就是把應(yīng)用線程中存在的remembered set logs的內(nèi)容進(jìn)行處理，并相應(yīng)的修改remembered sets，這一步需要暫停應(yīng)用，并行的運(yùn)行。

存活對(duì)象計(jì)算及清除（Live Data Counting and Cleanup）

值得注意的是，在G1中，并不是說Final Marking Pause執(zhí)行完了，就肯定執(zhí)行Cleanup這步的，由于這步需要暫停應(yīng)用，G1為了能夠達(dá)到準(zhǔn)實(shí)時(shí)的要求，需要根據(jù)用戶指定的最大的GC造成的暫停時(shí)間來合理的規(guī)劃什么時(shí)候執(zhí)行Cleanup，另外還有幾種情況也是會(huì)觸發(fā)這個(gè)步驟的執(zhí)行的：

展  望

以后JVM的調(diào)優(yōu)或許跟多需要針對(duì)G1算法進(jìn)行調(diào)優(yōu)了。

原文鏈接：http://pengjiaheng.iteye.com/blog/548472

【編輯推薦】

1. JVM調(diào)優(yōu)總結(jié)：典型配置舉例
2. JVM調(diào)優(yōu)總結(jié)：分代垃圾回收詳述
3. JVM調(diào)優(yōu)總結(jié)：垃圾回收面臨的問題
4. JVM調(diào)優(yōu)總結(jié)：基本垃圾回收算法
5. JVM調(diào)優(yōu)總結(jié)：一些概念