memocache工作原理

1       Memcache是什么

Memcache是danga.com的一个项目,最早是为 LiveJournal 服务的,目前全世界不少人使用这个缓存项目来构建自己大负载的网站,来分担数据库的压力。

它可以应对任意多个连接,使用非阻塞的网络IO。由于它的工作机制是在内存中开辟一块空间,然后建立一个HashTable,Memcached自管理这些HashTable。

为什么会有Memcache和memcached两种名称?

其实Memcache是这个项目的名称,而memcached是它服务器端的主程序文件名,

Memcache官方网站:http://www.danga.com/memcached

2       Memcache工作原理

首先 memcached 是以守护程序方式运行于一个或多个服务器中,随时接受客户端的连接操作,客户端可以由各种语言编写,目前已知的客户端 API 包括 Perl/PHP/Python/Ruby/Java/C#/C 等等。客户端在与 memcached 服务建立连接之后,接下来的事情就是存取对象了,每个被存取的对象都有一个唯一的标识符 key,存取操作均通过这个 key 进行,保存到 memcached 中的对象实际上是放置内存中的,并不是保存在 cache 文件中的,这也是为什么 memcached 能够如此高效快速的原因。注意,这些对象并不是持久的,服务停止之后,里边的数据就会丢失。

与许多 cache 工具类似,Memcached 的原理并不复杂。它采用了C/S的模式,在 server 端启动服务进程,在启动时可以指定监听的 ip,自己的端口号,所使用的内存大小等几个关键参数。一旦启动,服务就一直处于可用状态。Memcached 的目前版本是通过C实现,采用了单进程,单线程,异步I/O,基于事件 (event_based) 的服务方式.使用 libevent 作为事件通知实现。多个 Server 可以协同工作,但这些 Server 之间是没有任何通讯联系的,每个 Server 只是对自己的数据进行管理。Client 端通过指定 Server 端的 ip 地址(通过域名应该也可以)。需要缓存的对象或数据是以 key->value 对的形式保存在Server端。key 的值通过 hash 进行转换,根据 hash 值把 value 传递到对应的具体的某个 Server 上。当需要获取对象数据时,也根据 key 进行。首先对 key 进行 hash,通过获得的值可以确定它被保存在了哪台 Server 上,然后再向该 Server 发出请求。Client 端只需要知道保存 hash(key) 的值在哪台服务器上就可以了。

其实说到底,memcache 的工作就是在专门的机器的内存里维护一张巨大的 hash 表,来存储经常被读写的一些数组与文件,从而极大的提高网站的运行效率。

3       如何使用

  • 建立Manager类

Java代码 
  1. package com.alisoft.sme.memcached;
  2. import java.util.Date;
  3. import com.danga.MemCached.MemCachedClient;
  4. import com.danga.MemCached.SockIOPool;
  5. public class MemCachedManager {
  6. // 创建全局的唯一实例
  7. protected static MemCachedClient mcc = new MemCachedClient();
  8. protected static MemCachedManager memCachedManager = new MemCachedManager();
  9. // 设置与缓存服务器的连接池
  10. static {
  11. // 服务器列表和其权重
  12. String[] servers = { "127.0.0.1:11211" };
  13. Integer[] weights = { 3 };
  14. // 获取socke连接池的实例对象
  15. SockIOPool pool = SockIOPool.getInstance();
  16. // 设置服务器信息
  17. pool.setServers(servers);
  18. pool.setWeights(weights);
  19. // 设置初始连接数、最小和最大连接数以及最大处理时间
  20. pool.setInitConn(5);
  21. pool.setMinConn(5);
  22. pool.setMaxConn(250);
  23. pool.setMaxIdle(1000 * 60 * 60 * 6);
  24. // 设置主线程的睡眠时间
  25. pool.setMaintSleep(30);
  26. // 设置TCP的参数,连接超时等
  27. pool.setNagle(false);
  28. pool.setSocketTO(3000);
  29. pool.setSocketConnectTO(0);
  30. // 初始化连接池
  31. pool.initialize();
  32. // 压缩设置,超过指定大小(单位为K)的数据都会被压缩
  33. mcc.setCompressEnable(true);
  34. mcc.setCompressThreshold(64 * 1024);
  35. }
  36. /**
  37. * 保护型构造方法,不允许实例化!
  38. *
  39. */
  40. protected MemCachedManager() {
  41. }
  42. /**
  43. * 获取唯一实例.
  44. *
  45. * @return
  46. */
  47. public static MemCachedManager getInstance() {
  48. return memCachedManager;
  49. }
  50. /**
  51. * 添加一个指定的值到缓存中.
  52. *
  53. * @param key
  54. * @param value
  55. * @return
  56. */
  57. public boolean add(String key, Object value) {
  58. return mcc.add(key, value);
  59. }
  60. public boolean add(String key, Object value, Date expiry) {
  61. return mcc.add(key, value, expiry);
  62. }
  63. public boolean replace(String key, Object value) {
  64. return mcc.replace(key, value);
  65. }
  66. public boolean replace(String key, Object value, Date expiry) {
  67. return mcc.replace(key, value, expiry);
  68. }
  69. /**
  70. * 根据指定的关键字获取对象.
  71. *
  72. * @param key
  73. * @return
  74. */
  75. public Object get(String key) {
  76. return mcc.get(key);
  77. }
  78. public static void main(String[] args) {
  79. MemCachedManager cache = MemCachedManager.getInstance();
  80. cache.add("hello", 234);
  81. System.out.print("get value : " + cache.get("hello"));
  82. }
  83. }

建立数据对象

Java代码 
  1. package com.alisoft.sme.memcached;
  2. import java.io.Serializable;
  3. public class TBean implements Serializable {
  4. private static final long serialVersionUID = 1945562032261336919L;
  5. private String name;
  6. public String getName() {
  7. return name;
  8. }
  9. public void setName(String name) {
  10. this.name = name;
  11. }
  12. }
Java代码 
  1. <pre name="code" class="java"> </pre>
  2. <h2 style="margin: 13pt 0cm 13pt 28.8pt;"><span style="" lang="EN-US"><span style=""><span style="font-family: 'Times New Roman';">   </span></span></span><span style=""><span style="font-size: large;">创建测试用例</span></span></h2>
  3. <h2 style="margin: 13pt 0cm 13pt 28.8pt;"> </h2>
  4. <pre name="code" class="java">package com.alisoft.sme.memcached.test;
  5. import junit.framework.TestCase;
  6. import org.junit.Test;
  7. import com.alisoft.sme.memcached.MemCachedManager;
  8. import com.alisoft.sme.memcached.TBean;
  9. public class TestMemcached extends TestCase {
  10. private static MemCachedManager cache;
  11. @Test
  12. public void testCache() {
  13. TBean tb = new TBean();
  14. tb.setName("E网打进");
  15. cache.add("bean", tb);
  16. TBean tb1 = (TBean) cache.get("bean");
  17. System.out.println("name=" + tb1.getName());
  18. tb1.setName("E网打进_修改的");
  19. tb1 = (TBean) cache.get("bean");
  20. System.out.println("name=" + tb1.getName());
  21. }
  22. @Override
  23. protected void setUp() throws Exception {
  24. super.setUp();
  25. cache = MemCachedManager.getInstance();
  26. }
  27. @Override
  28. protected void tearDown() throws Exception {
  29. super.tearDown();
  30. cache = null;
  31. }
  32. }
  33. </pre>
  34. <h2 style="margin: 13pt 0cm 13pt 28.8pt;"> <span style="">测试结果</span></h2>
  35. <h2 style="margin: 13pt 0cm 13pt 28.8pt;"><span style="">
  36. <pre name="code" class="java">[INFO] ++++ serializing for key: bean for class: com.alisoft.sme.memcached.TBean
  37. [INFO] ++++ memcache cmd (result code): add bean 8 0 93 (NOT_STORED)
  38. [INFO] ++++ data not stored in cache for key: bean
  39. [INFO] ++++ deserializing class com.alisoft.sme.memcached.TBean
  40. name=E网打进
  41. [INFO] ++++ deserializing class com.alisoft.sme.memcached.TBean
  42. name=E网打进
  43. </pre>
  44. </span></h2>
posted on 2009-05-07 13:51 Blog of JoJo 阅读(9728) 评论(1)  编辑  收藏 所属分类: Linux 技术相关

memocache工作原理

FeedBack:
 
# re: Memcache工作原理
2009-05-07 13:54 | Blog of JoJo
memcache是一个高性能的分布式的内存对象缓存系统,可以用来构建大负载的网站,来分担数据库的压力。在这里我们要非常注意三点:

* 分布式:具我目前了解,memcache作为分布式缓存系统的一种方法是首先启动多个memcache进程,这些进程可以在不同的主机的不同端口上。memcache的分布式方法可以在N个前端主机上跑memcache进程,可以应付足够大的缓存数据,提高了访问获取数据的速度。
* 内存对象:memcache的工作机制是通过在内存里维护一个统一的巨大的hash表,用来存储各种格式的数据,包括图像、视频、文件以及数据库检索的结果等
* 缓存:一个好多缓存机制,可以给一个程序带来意想不到的性能提高,这个就不用多说了。

memcache的优点:一般情况下,缓存系统,我们最注重的性能,不然我们用它来做啥呢?然后就是在管理维护方面,因为是要人来操作的,所以需要它能够稳定的运行以及不能让人发狂的配置。

上一篇:LOJ #2587「APIO2018」铁人两项


下一篇:Masonry第三方代码约束