JVM垃圾回收器

垃圾回收器分类

  • 按碎片处理方式分,可分为压缩式垃圾回收器和非压缩式垃圾回收器
    • 压缩式垃圾回收器会在回收完成后,对存活对象进行压缩整理,消除回收后的碎片。
      • 再分配对象空间使用:指针碰撞
    • 非压缩式的垃圾回收器不进行这部操作
      • 再分配对象空间使用:空闲列表
  • 按工作的内存区间分,又可以分为年轻代垃圾回收器和老年代垃圾回收器

评估GC的性能指标

  • 吞吐量:运行用户代码的时间占总运行时间的比例
  • 暂停时间:执行垃圾收集时,程序的工作线程被暂停的时间
  • 内存占用:Java堆区所占的内存大小
  • 收集频率:相对于应用程序的执行,收集操作发生的频率
  • 快速:一个对象从诞生到被回收所经历的时间。

在设计GC算法时,我们必须确定我们的目标:一个GC算法只可能针对两个目标之一(即只专注于较大吞吐量或最小暂停时间),或尝试找到一个二者的折衷

现在标准:在最大吞吐量优先的情况下,降低停顿时间.

7款经典垃圾收集器

  • 串行回收器:Serial,Serial Old
  • 并行回收器:ParNew,Parallel Scavenge,Parallel Old
  • 并发回收器:CMS,G1
JVM垃圾回收器
  • 为什么要有很多收集器,一个不够么?
    • 因为Java的使用场景很多,移动端,服务器等.所以就需要针对不同的场景,提供不同的垃圾收集器,提高垃圾收集的性能
  • 虽然我们会对各个收集器进行比较,但并非为了挑选一个最好的收集器出来.没有一种任何场景下都适用的完美收集器存在,更加没有万能的收集器.所以我们选择的只是对具体应用最合适的收集器

Serial回收器(串行回收器)

JVM垃圾回收器
  • Serial收集器是最基本,历史最悠久的垃圾收集器.JDK1.3之前回收新生代唯一的选择
  • Serial收集器采用复制算法,串行回收和"stop the world"机制的方式执行内存回收
  • 除了年轻代之外,Serial收集器还提供用于执行老年代垃圾收集的Serial Old收集器.Serial Old收集器同样也采用了串行回收和"STW"机制,只不过内存回收算法使用的是标记-压缩算法

Full GC采用的就是Serial GC,因此效率很低


ParNew回收器(并行回收)

JVM垃圾回收器
  • 如果说Serial GC是年轻代中的单线程垃圾收集器,那么ParNew收集器则是Serial收集器的多线程版本
  • ParNew收集器除了采用并行回收的方式执行内存回收外,两款垃圾收集器之间几乎没有任何区别.ParNew收集器在年轻代中同样也是采用复制算法,"STW机制
  • ParNew是很多JVM运行在Server模式下新生代的默认垃圾收集器

Parallel Scavenge回收器(吞吐量优先)

  • HotSpot的年轻代中除了拥有ParNew收集器是基于并行回收的以外,Paralle Scavenge收集器同样也采用了复制算法,并行回收和"STW"机制

  • 那么Parallel收集器的出现是否多此一举?

    • 和ParNew收集器不同,Parallel Scavenge收集器的目标则是达到一个可控制的吞吐量,它也被称为吞吐量有限的垃圾收集器
    • 自适应调节策略也是Parallel Scavenge与ParNew一个重要区别
  • 高吞吐量则可以高效率地利用 CPU 时间,尽快完成程序的运算任务,主要适合在后台运算而不需要太多交互的任务.因此,常见在服务器环境中使用.例如,那些执行批量处理,订单处理,工资支付,科学计算的应用程序.

  • Parallel Old收集器采用了标记-压缩算法,但同样也是基于并行回收和"STW"机制


CMS回收器:低延迟

  • 在JDK 1.5时期,HotSpot推出了一款在强交互应用中几乎可认为有划时代意义的垃圾收集器:CMS(Concurrent-Mark-Sweep)收集器,这款收集器是由HotSpot虚拟机中第一款真正意义上的并发收集器,它第一次实现了让垃圾收集线程与用户线程同时工作.

  • CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间,停顿时间越短就越适合与用户交互的程序,良好的响应速度能提升用户体验

  • CMS的垃圾收集算法采用标记-清除算法,并且也会"STW"

垃圾回收的过程:

JVM垃圾回收器

  1. 初始标记(Initial-Mark):在这个阶段中,程序中所有的工作线程都将会因为"STW"机制而出现短暂的暂停,这个阶段的主要任务仅仅只是标记出GC Roots能直接关联到的对象.一旦标记完成之后就会恢复之前被暂停的所有应用线程.由于直接关联对象比较小,所以这里的速度非常快
  2. 并发标记(Concurrent-Mark):从GC Roots的直接关联对象开始遍历整个对象图的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行.
  3. 重新标记(Remark):由于在并发标记阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正并发标记期间,因用户线程继续运作而导致标记产生变动的那一部分对象的标记记录,这个阶段的停顿时间通常会比初始标记阶段稍长一些,但也远比并发标记阶段的时间短.
  4. 并发清除(Concurrent-Sweep):此阶段清理删除掉标记阶段判断的已经死亡的对象,释放内存空间.由于不需要移动存活对象,所以这个阶段也是可以与用户线程同时并发的
  • 另外,由于在垃圾收集阶段用户线程没有中断,所以在CMS回收过程中n还应该确保应用程序用户线程有足够的内存可用.因此,CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,而是当堆内存使用率达到某一阈值时,便开始进行回收,以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行.要是CMS运行期间预留的内存无法满足程序需要,就会出现一次Concurrent Mode Failure失败,这时虚拟机将启动后备预案:临时启用Serial Old收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了

既然Mark Sweep会造成内存碎片,那么为什么不把算法换成Mark Compact呢?

  • 因为当并发清除的时候,用Compact整理内存的话,原来的用户线程使用的内存将无法使用

优缺点:

优点:

  • 并发收集
  • 低延迟

缺点:

  • 会产生内存碎片,导致并发清除后,用户线程可用的空间不足.在无法分配大对象的情况下,不得不提前触发Full GC
  • CMS收集器堆CPU资源非常敏感.在并发阶段,它虽然不会导致用户停顿,但是会因为占用了一部分线程而导致应用程序变慢,总吞吐量会降低
  • CMS收集器无法处理浮动垃圾.在并发标记阶段由于程序的工作线程和垃圾收集线程是同时运行或者交叉运行的,那么在并发标记阶段如果产生新的垃圾对象,CMS将无法对这些垃圾对象进行标记,最终会导致这些新产生的垃圾对象没有被及时回收,从而只能在下一次执行GC时释放这些之前违背回收的内存空间

总结

这么多垃圾回收器如何选择呢?

  • 如果想要最小化的使用内存和并行开销,选择Serial GC
  • 如果想要最大化应用程序的吞吐量,选择Parallel GC
  • 如果想要最小化GC的中断或停顿时间,选择CMS GC

G1(Garbage First)回收器:区域分代化

JVM垃圾回收器
  • 为了适应现在不断扩大的内存和不断增加的处理器数量,进一步降低暂停时间,同时兼顾良好的吞吐量
  • 官方给G1设定的目标是在延迟可控的情况下获得尽可能高的吞吐量,所以才担当起"全能收集器"的众人与期望

名字由来

  • 因为G1是一个并行回收器,它把堆内存分割为很多不相关的区域.使用不同的Region来表示Eden,幸存者0区,幸存者1区,老年代等
  • G1 GC有计划地避免在整个Java堆中进行全区域的垃圾收集.G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的手机时间,优先回收价值最大的Region.
  • 由于这种方式的侧重点在于回收垃圾最大量的区间(Region),所以起名 垃圾优先(Garbage First)

G1是一款面向服务端应用的垃圾收集器,主要针对配备多核CPU以及大容量内存的机器,以及高概率满足GC停顿时间的同时,还兼备高吞吐量的性能特征

G1回收器的特定

  • 并行与并发

    • 并行性:G1在回收期间,可以有多个GC线程同时工作,有效利用多核计算能力.此时用户线程STW
    • 并发性:G1拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会在整个回收阶段发生阻塞应用程序的情况
  • 分代收集

    • 从分代上看,G1依然属于分代型垃圾回收器,他会区分年轻代和老年代,年轻代依然有Eden区和Survivor区.但从堆的结构上看,它不会要求整个Eden区,年轻代或者老年代都是连续的,也不再坚持固定大小和固定数量.
    • 将堆空间分为若干个区域,这些区域中包含了逻辑上的年轻代和老年代.
    • 和之前的各类回收器不同,它同时兼顾年轻代和老年代,对比其他回收器,或者工作在年轻代,或者工作在老年代.
  • 空间整合

    • CMS:"标记-清除"算法,有内存碎片,若干次GC后进行一次碎片整理
    • G1将内存划分为一个个的region.内存的回收是以region作为基本单位的.Region之间是复制算法,但整体上实际可看作是"标记-压缩"算法,两种算法都可以避免内存碎片,这种特性有利于程序长时间运行,分配大对象时不会因为无法找到连续内存空间而提前出发下一次 GC.尤其是当Java堆非常大的时候,G1的优势更加明显
  • 可预测的停顿时间模型

    G1除了追求低停顿外,还能建立可预测的停顿时间模型,能让使用者明确指定在一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过N毫秒

    • 由于分区的原因,G1可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制
    • G1跟踪各个Region里面的垃圾堆积的价值大小,在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region,保证了G1收集器在有限的时间内可以获取尽可能高的收集效率
    • 相比于CMS,GC,G1未必能做到CMS在最好情况下的延时停顿,但是最差情况要好很多

相较于CMS,G1还不具备全方位,压倒性优势.比如在用户程序运行过程中,G1无论是为了垃圾收集产生的内存占用还是程序运行时的额外执行负载都要比CMS高

经验上来说,在小内存应用上CMS的表现大概率会优于G1,而G1在大内存应用上则发挥其优势.平衡点在6-8G之间

G1回收器的常见操作步骤

G1的设计原则就是简化JVM性能调优,开发人员只需要简单的三步即可完成

  1. 开启G1垃圾收集器

    -XX:+UseG1GC

  2. 设置堆得最大内存

    -Xms128m -Xmx128m

  3. 设置最大的停顿时间

    -XX:MaxGCPauseMillis=500ms

G1中提供了三种垃圾回收模式:YoungGC,Mixed GC和FULL GC,在不同的条件下被触发


G1回收器的适用场景

  • 面向服务器端应用,针对具有大内存,多处理器的机器;

  • 最主要的应用是需要低GC延迟,并具有大堆的应用程序提供解决方案;

  • 在下面的情况时,使用G1可能比CMS好;

    1. 超过50%的Java堆被活动数据占用
    2. 对象分配额率或年代提升频率变化很大
    3. GC停顿时间过长(长于0.5-1秒)
  • HotSpot垃圾收集器里,除了G1以外,其他的垃圾收集器使用内置的JVM线程执行GC的多线程操作,而G1 GC可以采用应用线程承担后台运行的GC工作,即当JVM的GC线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程;


分区Region:化整为零

使用G1收集器,它将整个Java堆划分为2048个大小相同的独立的Region块,每个Region块大小根据堆空间的实际大小而定,整体被控制在1MB到32MB之间,且为2的N次幂,可以通过-XX:G1HeapRegionSize设定.所有的Region大小相同,且在JVM生命周期内不会被改变

虽然还保留有新生代和老年代的概念,但新生代和老年代不再是物理隔离的了,他们都是一部分Region的集合.通过Region的动态分配方式实现逻辑上的连续

  • 一个region有可能属于Eden,Survivor或者Old内存区域。但是一个region只可能属于一个角色。上图中的E表示该region属于Eden内存区域。S表示属于Survivor内存区域,o表示属于Old内存区域。图中空白的表示未使用的内存空间

  • 对于堆中的大对象默认会直接分配到老年代,但是如果它是一个短期存在的大对象,就会对垃圾收集器造成负面影响。为了解决这个问题,G1垃圾收集器还增加了一种新的内存区域,叫做Humongous内存区域,主要用于存储大对象,如果超过一个Region的50%就会放到H区为了能找到连续的H区,有时候不得不启动Full GC。G1的大多数行为都把H区作为老年代的一部分来看待

  • 对象存放到rigion种的方式采用的是指针碰撞

指针碰撞:假设Java堆中内存是绝对规整的,所有用过的内存都放在一边,空闲的内存放在另一边,中间放着一个指针作为分界点的指示器,那所分配内存就仅仅是把那个指针向空闲空间那边挪动一段与对象大小相等的距离,这种分配方式称为“指针碰撞”(Bump thePointer)


Remembered Set

一个Region不可能是孤立的,一个Region中的对象可能被其他任意Region中对象引用(包括Old区,Eden区,H区),判断对象存活时,是否需要扫描整个Java堆才能保证准确?回收新生代也不得不同时扫描老年代?这样会降低效率

JVM垃圾回收器

  • Card Table
    • 表中的每个entry覆盖512Byte的内存空间
    • 当对应的内存空间发生改变时,标记为dirty
  • RememberedSet
    • 指向Card Table中的对应entry
    • 可找到具体内存区域
  • 时间换空间
    • 用额外的空间维护引用信息
    • 5%~10% memory overhead
JVM垃圾回收器
# 解决方法
- 无论G1还是其他分代收集器,JVM都是使用Remembered Set来避免全局扫描

- 每个Region都有一个对应的Remembered Set

- 每次Reference类型数据写操作时,都会产生一个WriteBarrier(写屏障)暂时中断操作;

- 然后检查将要写入的引用指向的对象是否和该Reference类型数据在不同的Region(
	其他收集器:检查老年代对象是否引用了新生代对象
	)

- 如果不同,通过CardTable把相关引用信息记录到引用指向对象的所在Region对应的Remembered Set中

- 当进行垃圾收集时,在GC根节点的枚举范围加入Remembered Set;就可以保证不进行全局扫描,也不会有遗漏

过程如下:

JVM垃圾回收器

G1回收器垃圾回收过程

JVM垃圾回收器
  • 应用程序分配内存,当年轻代的Eden区用尽时开始年轻代回收过程;G1的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期,G1 GC暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到Survivor区间或者老年区间,也有可能是两个区间都会涉及。

  • 当堆内存使用达到一定值(默认45%)时,开始老年代并发标记过程

  • 标记完成,马上开始混合回收过程.对于一个混合回收期,G1 GC从老年区间移动存活对象到空闲区间,这些空闲区间也就成为了老年代的一部分.和年轻代不同,老年代的G1回收器和其他GC不同,G1的老年代回收器不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的Region就可以了.同时,这个老年代的Region是和年轻代一起被回收的.

主要包括如下三个环节:

JVM垃圾回收器

  • 年轻代GC

    • JVM启动时,G1先准备好Eden区,程序在运行过程中不断创建对象到Eden区,当Eden空间耗尽时,G1会启动一次年轻代垃圾回收过程
    • YGC时,首先G1停止应用程序的执行,G1创建回收集,回收集是指需要被回收的内存分段的集合,年轻代回收过程的回收集包含年轻代Eden区和Survivor区所有的内存分段
    JVM垃圾回收器

整个年轻代内存会在初始空间-XX:G1NewSizePercent(默认整堆5%)与最大空间(默认60%)之间动态变化,且由参数目标暂停时间-XX:MaxGCPauseMillis(默认200ms)、需要扩缩容的大小以-XX:G1MaxNewSizePercent及分区的已记忆集合(RSet)计算得到。当然,G1依然可以设置固定的年轻代大小(参数-XX:NewRatio、-Xmn),但同时暂停目标将失去意义。

JVM垃圾回收器

对于应用程序的引用赋值语句Object.field = object, JVM会在之前和之后执行特殊的操作已在dirty card queue中入队一个保存了对象引用信息的card.在年轻代回收的时候,G1会对Dirty Card Queue中所有的card进行处理,以更新RSet,保证RSet实时准确的反映引用关系

  • 这样做的原因是RSet的处理需要线程同步,开销会很大,使用队列性能会好很多
  • 并发标记过程
    JVM垃圾回收器

  • 混合回收

    • 当越来越多的对象晋升到老年代old Region时,为了避免堆内存被耗尽,虚拟机会触发一个混合的垃圾收集器,即Mixed GC,该算法并不是一个Old GC,除了回收整个Young Region,还会回收一部分的Old Region.可以选择哪些Old Region进行收集,从而可以对垃圾回收的耗时时间进行控制,也要注意的是Mixed GC比那个不是Full GC

      JVM垃圾回收器
  • (如果需要,单线程,独占式,高强度的Full GC还是继续存在的.它针对GC的评估失败提供了一种失败保护机制,即强力回收)

总结

JVM垃圾回收器

日志分析

JVM垃圾回收器
上一篇:垃圾回收器(二)


下一篇:☆自动内存管理之垃圾回收器中的经典垃圾回收器(serial,parnew, CMS,G1)