1. 什么是DRM
DRM(Dynamic Resource Management)是oracle 10g的一个新特性,在oracle rac环境中,ORACLE使用GRD(Global Resource Service)来记录各个节点的资源信息,具体是通过GCS(Global Cache Service)和GES(Global Enqueue Service)这两个服务进行管理。由于RAC中每个节点都有自己的SGA和buffer cache,为了保证所有节点cache 资源的一致性和高性能。GCS和GES会指定RAC中的某一个节点的实例来管理cache,这个节点就是Resource Master。当rematering或改变主节点只会发生在重新配置,会自动在两个正常操作实例启动或实例关闭,异常节点就是被集群踢出。所以当以节点A作为主节点是也就是 Resource Master时,这个资源就掌握在节点A中,直到被重新配置。
理论上讲,利用DRM,非master节点对所需资源有频繁访问需求时,可以提升为master节点,从而减少大量后续的跨节点资源访问需求,例:cache resource 被节点B频繁访问时,资源就可以从节点A remaster到节点B。
但是,作为一个好的RAC应用设计,同一个资源从多个节点访问本来就是应该避免的问题,如果访问的同一资源只在一个节点上,那么对于DRM来说,就根本不存在。其次,DRM过程本身就耗费资源。
/* 下面是老熊网站的一个例子:http://www.laoxiong.net/problem-caused-by-drm.html */
在一套RAC系统中,间歇性的出现性能问题,但是一段时间后自动恢复正常。
从AWR中的TOP 5等待来看:
<span style="font-size:12px;">Top 5 Timed Events Avg %Total ~~~~~~~~~~~~~~~~~~ wait Call Event Waits Time (s) (ms) Time Wait Class ------------------------------ ------------ ----------- ------ ------ ---------- latch: cache buffers lru chain 774,812 140,185 181 29.7 Other gc buffer busy 1,356,786 61,708 45 13.1 Cluster latch: object queue header ope 903,456 55,089 61 11.7 Other latch: cache buffers chains 360,522 49,016 136 10.4 Concurrenc gc current grant busy 112,970 19,893 176 4.2 Cluster ------------------------------------------------------------- </span>
可以看到,TOP 5中,有3个是latch相关的等待,而另外2个则是跟RAC相关的等待。
如果再查看更细的等待数据,可以发现其他问题:
<span style="font-size:12px;"> Avg %Time Total Wait wait Waits Event Waits -outs Time (s) (ms) /txn ---------------------------- -------------- ----- ----------- ------- --------- latch: cache buffers lru cha 774,812 N/A 140,185 181 1.9 gc buffer busy 1,356,786 6 61,708 45 3.3 latch: object queue header o 903,456 N/A 55,089 61 2.2 latch: cache buffers chains 360,522 N/A 49,016 136 0.9 gc current grant busy 112,970 25 19,893 176 0.3 gcs drm freeze in enter serv 38,442 97 18,537 482 0.1 gc cr block 2-way 1,626,280 0 15,742 10 3.9 gc remaster 6,741 89 12,397 1839 0.0 row cache lock 52,143 6 9,834 189 0.1 </span>
从上面的数据还可以看到,除了TOP 5等待,还有”gcs drm freeze in enter server mode“以及”gc remaster”这2种比较少见的等待事件,从其名称来看,明显与DRM有关。那么这2种等待事件与TOP 5的事件有没有什么关联?。MOS文档”Bug 6960699 – “latch: cache buffers chains” contention/ORA-481/kjfcdrmrfg: SYNC TIMEOUT/ OERI[kjbldrmrpst:!master] [ID 6960699.8]”提及,DRM的确可能会引起大量的”latch: cache buffers chains”、”latch: object queue header operation”等待,虽然文档没有提及,但不排除会引起”latch: cache buffers lru chain“这样的等待。
为了进一步证实性能问题与DRM相关,使用tail -f命令监控LMD后台进程的trace文件。在trace文件中显示开始进行DRM时,查询v$session视图,发现大量的 “latch: cache buffers chains” 、”latch: object queue header operation”等待事件,同时有”gcs drm freeze in enter server mode“和”gc remaster”等待事件,同时系统负载升高,前台反映性能下降。而在DRM完成之后,这些等待消失,系统性能恢复到正常。
看起来,只需要关闭DRM就能避免这个问题。怎么样来关闭/禁止DRM呢?很多MOS文档提到的方法是设置2个隐含参数:
<span style="font-size:12px;">_gc_affinity_time=0 _gc_undo_affinity=FALSE </span>
不幸的是,这2个参数是静态参数,也就是说必须要重启实例才能生效。
实际上可以设置另外2个动态的隐含参数,来达到这个目的。按下面的值设置这2个参数之后,不能完全算是禁止/关闭了DRM,而是从”事实上“关闭了DRM。
<span style="font-size:12px;">_gc_affinity_limit=250 _gc_affinity_minimum=10485760 </span>
甚至可以将以上2个参数值设置得更大。这2个参数是立即生效的,在所有的节点上设置这2个参数之后,系统不再进行DRM,经常一段时间的观察,本文描述的性能问题也不再出现。
下面是关闭DRM之后的等待事件数据:
<span style="font-size:12px;">Top 5 Timed Events Avg %Total ~~~~~~~~~~~~~~~~~~ wait Call Event Waits Time (s) (ms) Time Wait Class ------------------------------ ------------ ----------- ------ ------ ---------- CPU time 15,684 67.5 db file sequential read 1,138,905 5,212 5 22.4 User I/O gc cr block 2-way 780,224 285 0 1.2 Cluster log file sync 246,580 246 1 1.1 Commit SQL*Net more data from client 296,657 236 1 1.0 Network ------------------------------------------------------------- Avg %Time Total Wait wait Waits Event Waits -outs Time (s) (ms) /txn ---------------------------- -------------- ----- ----------- ------- --------- db file sequential read 1,138,905 N/A 5,212 5 3.8 gc cr block 2-way 780,224 N/A 285 0 2.6 log file sync 246,580 0 246 1 0.8 SQL*Net more data from clien 296,657 N/A 236 1 1.0 SQL*Net message from dblink 98,833 N/A 218 2 0.3 gc current block 2-way 593,133 N/A 218 0 2.0 gc cr grant 2-way 530,507 N/A 154 0 1.8 db file scattered read 54,446 N/A 151 3 0.2 kst: async disk IO 6,502 N/A 107 16 0.0 gc cr multi block request 601,927 N/A 105 0 2.0 SQL*Net more data to client 1,336,225 N/A 91 0 4.5 log file parallel write 306,331 N/A 83 0 1.0 gc current block busy 6,298 N/A 72 11 0.0 Backup: sbtwrite2 4,076 N/A 63 16 0.0 gc buffer busy 17,677 1 54 3 0.1 gc current grant busy 75,075 N/A 54 1 0.3 direct path read 49,246 N/A 38 1 0.2 </span>
自己理解:DRM(Dynamic Resource Management)理论上实现了对非master的节点提升为master节点,可以减少跨节点资源访问,但是却带来了更多的问题。假如一个rac集群中有两个节点,节点2在空闲时段cache了一张很大很大的表,到了业务繁忙时段,节点1需要访问该表,如果没有DRM,则会从存储中访问,但是如果有了DRM,就会在节点2中找到该cache资源,从节点2的cache中将该资源传到节点1,这样的话就会消耗大量的带宽,从而消耗了很多资源。