二、问题描述
在详细描述问题之前,先弄清楚一个问题:
什么导致了 OOM 的产生?
下面是几个关于 Android 官方声明内存限制阈值的 API:
通常认为 OOM 发生是由于 java 堆内存不够用了,即
这种 OOM 可以非常方便的验证(比如: 通过 new byte[] 的方式尝试申请超过阈值maxMemory() 的堆内存),通常这种 OOM 的错误信息通常如下:
而前面已经提到了,本文中发现的 OOM 案例中堆内存充裕(Runtime.getRuntime().maxMemory() 大小的堆内存还剩余很大一部分),设备当前内存也很充裕(ActivityManager.MemoryInfo.availMem 还有很多)。这些 OOM 的错误信息大致有下面两种:
1 . 这种 OOM 在 Android6.0,Android7.0 上各个机型均有发生,文中简称为 OOM 一,错误信息如下:
2 . 集中发生在 Android7.0 及以上的华为手机(EmotionUI_5.0 及以上)的 OOM,简称为 OOM 二,对应错误信息如下:
三、问题分析及解决
3.1代码分析
Android 系统中,OutOfMemoryError 这个错误是怎么被系统抛出的?下面基于 Android6.0 的代码进行简单分析:
1. Android 虚拟机最终抛出OutOfMemoryError 的代码位于/art/runtime/thread.cc
图 3-1 ART Runtime 抛出的位置
2. 搜索代码可以发现以下几个地方调用了上述方法抛出 OutOfMemoryError 错误
3. 第一个地方是堆操作时
这种抛出的其实就是堆内存不够用的时候,即前面提到的申请堆内存大小超过了Runtime.getRuntime().maxMemory()
1 . 第二个地方是创建线程时
对比错误信息,可以知道我们遇到的 OOM 崩溃就是这个时机,即创建线程的时候(Thread::CreateNativeThread)产生的。
2 . 还有其他的一些错误信息如“[XXXClassName] of length XXX would overflow”是系统限制String/Array 的长度所致,不在本文讨论之列。
那么,我们关心的就是Thread::CreateNativeThread 时抛出的 OOM 错误,创建线程为什么会导致 OOM 呢?
3.2推断
既然抛出来 OOM,一定是线程创建过程中触发了某些我们不知道的限制,既然不是 Art 虚拟机为我们设置的堆上限,那么可能是更底层的限制。Android 系统基于 linux,所以 linux 的限制对于 Android 同样适用,这些限制有:
1 ./proc/pid/limits 描述着 linux 系统对对应进程的限制,下面是一个样例:
用排除法筛选上面样例中的 limits:
- Max stack size,Max processes 的限制是整个系统的,不是针对某个进程的,排除;
- Max locked memory ,排除,后面会分析,线程创建过程中分配线程私有 stack 使用的 mmap 调用没有设置 MAP_LOCKED,所以这个限制与线程创建过程无关 ;
- Max pending signals,c 层信号个数阈值,无关,排除 ;
- Max msgqueue size,Android IPC 机制不支持消息队列,排除。
剩下的 limits 项中,Max open files 这一项限制最可疑Max open files 表示 每个进程最大打开文件的数目,进程 每打开一个文件就会产生一个文件描述符 fd(记录在 /proc/pid/fd 下面),这个限制表明 fd 的数目不能超过 Max open files 规定的数目。
后面分析线程创建过程中会发现过程中涉有及到文件描述符。
2 . /proc/sys/kernel 中描述的限制
这些限制中与线程相关的是 /proc/sys/kernel/threads-max,规定了每个进程创建线程数目的上限,所以线程创建导致 OOM 的原因也有可能与这个限制相关。
3.3验证
下面对上述的推断进行验证,分两步:本地验证和线上验收。
- 本地验证:在本地验证推断,试图复现与图 [2-4]OOM 一与图 [2-5]OOM 二所示错误消息一致的 OOM
- 线上验收:下发插件,验收线上用户 OOM 时确实是由于上面的推断的原因导致的。
本地验证
实验一: 触发大量网络连接(每个连接处于独立的线程中)并保持,每打开一个 socket 都会增加一个 fd(/proc/pid/fd 下多一项)
注:不只有这一种增加 fd 数的方式,也可以用其他方法,比如打开文件,创建 handlerthread 等等
- 实验预期:当进程 fd 数(可以通过 ls /proc/pid/fd | wc -l 获得)突破 /proc/pid/limits 中规定的 Max open files 时,产生 OOM;
- 实验结果:当 fd 数目到达 /proc/pid/limits 中规定的 Max open files 时,继续开线程确实会导致 OOM 的产生。
错误信息及堆栈如下:
可以看出,此 OOM 发生时的错误信息确与线上发现的 OOM 一的“Could not allocate JNI Env” 吻合,因此线上上报的 OOM 一 可能 就是由 FD 数超限导致的,不过最终确定需要到线上进行验证 (下一小节)。此外从 ART 虚拟机的 Log 中看出,还有一个关键的信息 “ art: ashmem_create_region failed for ‘indirect ref table’: Too many open files”,后面会用于问题定位及解释。
实验二:创建大量的空线程(不做任何事情,直接 sleep)
- 实验预期:
- 当线程数(可以在/proc/pid/status 中的threads项实时查看)超过/proc/sys/kernel/threads-max 中规定的上限时产生 OOM 崩溃。
- 实验结果:
- 在 Android7.0 及以上的华为手机(EmotionUI_5.0 及以上)的手机产生 OOM,这些手机的线程数限制都很小 (应该是华为 rom 特意修改的 limits),每个进程只允许最大同时开 500 个线程,因此很容易复现了。
OOM 时错误信息如下:
可以看出 错误信息与我们线上遇到的 OOM 二吻合:“pthread_create (1040KB stack) failed: Out of memory” 另外 ART 虚拟机还有一个关键 Log:“pthread_create failed: clone failed: Out of memory”,后面会用于问题定位及解释。
1 . 其他 Rom 的手机线程数的上限都比较大,不容易复现上述问题。但是,对于 32 位的系统,当进程的逻辑地址空间不够的时候也会产生 OOM,每个线程通常需要 mapp 1MB 左右的 stack 空间(stack 大小可以自行设置),32 为系统进程逻辑地址 4GB,用户空间少于 3GB。逻辑地址空间不够(已用逻辑空间地址可以查看 /proc/pid/status 中的 VmPeak/VmSize 记录),此时创建线程产生的 OOM 具有如下信息:
线上验收及问题解决
本地尝试复现的 OOM 错误信息中图 [3-5] 与线上 OOM 一情况比较吻合,图 [3-6] 与线上 OOM 二的情况比较吻合,但线上的 OOM 一真的时 FD 数目超限,OOM 二真的是由于华为手机线程数超限的原因导致的吗?最终确定还需要取线上设备的数据进行验证。
验证方法:
下发插件到线上用户,当 Thread.UncaughtExceptionHandler 捕获到OutOfMemoryError 时记录 /proc/pid 目录下的如下信息:
1. /proc/pid/fd 目录下文件数 (fd 数)
2. /proc/pid/status 中 threads 项(当前线程数目)
3. OOM 的日志信息(出了堆栈信息还包含其他的一些 warning 信息
线上 OOM 一验证
发生 OOM 一的线上设备中采集到的信息:
1. /proc/pid/fd 目录下文件数与 /proc/pid/limits 中的 Max open files 数目持平,证明 FD 数目已经满了;
2. 崩溃时日志信息与图 [3-5] 基本一致;
由此,证明 线上的 OOM 一确实是由于 FD 数目过多导致的 OOM,推断验证成功。
OOM 一的定位与解决:
最终原因是 App 中使用的长连接库再某些时候会有瞬时发出大量 http 请求的 bug(导致 FD 数激增),已修复。
线上 OOM 二验证 集中在华为系统的 OOM 二崩溃时收集到的信息样例如下,(收集的样例中包含的 devicemodel 有 VKY-AL00,TRT-AL00A,BLN-AL20,BLN-AL10,DLI-AL10,TRT-TL10,WAS-AL00 等):
1. /proc/pid/status 中 threads 记录全部到达上限:Threads: 500;
2. 崩溃时日志信息与图 [3-6] 基本一致;
推断验证成功,即 线程数受限导致创建线程时 clone failed 导致了线上的 OOM 二。
OOM 二的定位与解决:
关于 App 业务代码中的问题还在定位修复中。
3.4解释
下面从代码分析本文描述的 OOM 是怎么发生的,首先线程创建的简易版流程图如下所示:
上图中,线程创建大概有两个关键的步骤:
- 第一列中的 创建线程私有的结构体 JNIENV(JNI 执行环境,用于 C 层调用 Java 层代码)
- 第二列中的 调用 posix C 库的函数 pthread_create 进行线程创建工作
下面对流程图中关键节点(图中有标号的)进行说明:
1. 图中节点①,/art/runtime/thread.cc 中的函数Thread:CreateNativeThread部分节选代码如下:
可知:
- JNIENV 创建不成功时产生 OOM 的错误信息为 “Could not allocate JNI Env”,与文中 OOM 一一致
pthread_create失败时抛出 OOM 的错误信息为"pthread_create (%s stack) failed: %s".其中详细的错误信息由 pthread_create 的返回值(错误码)给出。错误码与错误描述的对应关系可以参见 bionic/libc/include/sys/_errdefs.h中的定义。文中 OOM 二的具体错误信息为"Out of memory",就说明 pthread_create 的返回值为 12。
![图 3-10 系统错误定义 _errdefs.h](http://upload-images.jianshu.io/upload_images/14847428-689
《Android学习笔记总结+最新移动架构视频+大厂安卓面试真题+项目实战源码讲义》
【docs.qq.com/doc/DSkNLaERkbnFoS0ZF】 完整内容开源分享
ad98d836934d0?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)
2. 图中节点②和③是创建 JNIENV 过程的关键节点,节点②/art/runtime/mem_map.cc 中 函数 MemMap:MapAnonymous 的作用是为 JNIENV 结构体中Indirect_Reference_table(C 层用于存储 JNI 局部 / 全局变量)申请内存,申请内存的方法是节点③所示的函数ashmem_create_region(创建一块 ashmen 匿名共享内存, 并返回一个文件描述符)。节点②代码节选如下:
节点,节点②/art/runtime/mem_map.cc 中 函数 MemMap:MapAnonymous 的作用是为 JNIENV 结构体中Indirect_Reference_table(C 层用于存储 JNI 局部 / 全局变量)申请内存,申请内存的方法是节点③所示的函数ashmem_create_region(创建一块 ashmen 匿名共享内存, 并返回一个文件描述符)。节点②代码节选如下: