关于memcached的那些事儿

一、前言

目前,memcached + mysql的这种存储组合,被广泛地应用到“读多写少”的应用场景上。那么在使用memcached的时候,我们需要注意哪些问题呢?

下面我们来探讨下使用memcached时候应该注意的问题或者可能遇到的问题。(以下简称mc)

  1. 什么时候需要引入mc
  2. 使用什么样的内容更新策略
  3. 内容批量读取的问题如何处理
  4. 如何扩展mc
  5. mc上线后如何进行评估和监控

二、什么时候需要引入mc

这是一个非常简单的问题,当我们的系统性能下降的时候,我们首先要做的就是找出系统的性能瓶颈在哪里。

如何发现cache可以帮助解决问题,那我们就可以考虑引入mc。

一般来讲,mc的作用在于提高响应时间和提高服务的并发性能。

从响应时间的角度看,mc的一次存取时间大概是1-2ms,而mysql的存取时间很多时候是与硬盘的存取时间相关。

mysql本身也有自己的cache,如果存取操作不涉及磁盘的访问,那么mysql的响应时间和mc的响应时间相差无几。

但是如果mysql的cache失效,那么mysql的响应时间则很大程度上依赖于硬盘的访问时间。目前,一块普通的机械硬盘的随机访问时间大概是8-10ms。

从并发性能的角度看,mc单个实例的并发处理性能大概在40w/s左右,而mysql的单实例并发处理性能仅为2000/s左右 。

注:这里的处理性能和系统的资源也是相关。

三、使用什么样的内容更新策略

一般来讲,mc的缓存更新策略主要有write-back和write-through两种。

对于,这两种策略的具体流程这里不在累述。

write-back只有在数据被访问到的时候才会被写入cache,所以这种策略相对来讲会节省内存,数据更新操作的时候时间也会比较短。

但是,它势必会影响缓存的命中率,在高并发的情况下尤其突出。

write-through则是在数据被创建或者更新的时候就直接写入cache,所以数据更新操作的时间会略长,内存的使用量也较多。

但是,如果并发很高,而且更新的数据很快会被使用,那么这种策略是一种不错的选择。

四、如何处理批量读取的问题

在mc的实际应用中,我们可能需要多次读取缓存中的数据才能够获取我们所需要的资源,也即multiget问题。

当我们需要获取100份缓存数据的时候,以一次读取1ms的时间进行计算,如果是同步进行处理需要100ms,所以为了提高并发读取的性能,我们可以选择异步读取的机制。

五、如何扩展mc

当我们的系统运行一段时间后,不可避免地会出现扩容或者减少mc服务器的情况,那么我们应该如何设计mc服务的扩展性呢?

一个很普通的策略就是使用一致性hash策略,但是普通的一致性hash策略会导致memcached服务器的分布不均匀,memcached黑洞问题,memcached闪断造成的数据不一致等问题。

因此我们使用memcached的时候需要设计好如何对memcached进行扩展。

六、mc上线后如何进行评估和监控

mc上线后,我们需要评估我们的缓存是否提高了系统的整体性能,mc的缓存命中率是多少,是否符合我们的预期,内存的利用率是多少。

同时,随着mc性能指标的变化,我们还需要对mc的服务进行调整。

例如:

缓存命中率下降,但是内存的利用率很高时,我们需要如何进行处理?

缓存命中率下降的同时,内存的利用率也在下降的时候,我们需要如何进行处理?

上一篇:BZOJ 2438: [中山市选2011]杀人游戏


下一篇:android常见错误--Unable to resolve target ‘android - 8’