高性能内存对象缓存Memcached原理与部署

2024-07-20 11:25:35

Memcached概述

Memcached是一个高性能的分布式内存对象缓存系统，用于动态Web应用以减轻数据库负载。它通过在内存中缓存数据和对象，减少对数据库的访问，从而提高Web应用的响应速度。

原理

架构

Memcached采用的是一种简单的Key-Value存储系统，主要由以下几个部分组成：

客户端：负责向Memcached服务器发送存储和获取数据的请求。
服务器：负责接收客户端的请求，进行数据存储和管理。
存储管理：在服务器内存中存储数据，并通过LRU（Least Recently Used，最近最少使用）算法管理缓存数据。
网络通信：基于TCP/IP协议进行通信。

工作流程

数据存储：
- 客户端发送存储请求，包含Key和Value。
- 服务器接收到请求后，将数据存储在内存中，并根据LRU策略管理缓存数据。
- 服务器返回存储成功的响应。
数据获取：
- 客户端发送获取请求，包含Key。
- 服务器接收到请求后，根据Key查找对应的Value。
- 如果找到对应的Value，服务器返回数据；如果没有找到，返回空。
缓存失效：
- 当内存空间不足时，Memcached会根据LRU算法移除最久未使用的数据。
- 客户端可以设置数据的过期时间，过期数据会自动失效并被移除。

部署

单memcached节点缓存系统

设置各节点的主机名

主机：192.168.10.101

[root@localhost ~]# hostnamectl set-hostname Memcache1

[root@localhost ~]# bash

主机：192.168.10.102

[root@localhost ~]# hostnamectl set-hostname Memcache2

[root@localhost ~]# bash

主机：192.168.10.103

[root@localhost ~]# hostnamectl set-hostname Memcached-API

[root@localhost ~]# bash

安装 Memcached 服务器

1：安装 Libevent

[root@memcache1 ~]# systemctl stop firewalld

[root@memcache1 ~]# yum -y install gcc*

[root@memcache1 ~]# tar zxvf libevent-2.1.8-stable.tar.gz

[root@memcache1 ~]# cd libevent-2.1.8-stable

[root@memcache1 libevent-2.1.8-stable]# ./configure --prefix=/usr/local/libevent

[root@memcache1 libevent-2.1.8-stable]# make && make install

备注：

Libevent 是一个用C语言编写的、轻量级的开源高性能事件通知库，主要有以下几个亮点：事件驱动（ event-driven），高性能;轻量级，专注于网络，不如 ACE 那么臃肿庞大；源代码相当精炼、易读；跨平台，支持 Windows、 Linux、 *BSD 和 Mac Os；支持多种 I/O 多路复用技术， epoll、 poll、 dev/poll、 select 和 kqueue 等；支持 I/O，定时器和信号等事件；注册事件优先级。

Libevent 已经被广泛的应用，作为底层的网络库；比如 memcached、 Vomit、 Nylon、 Netchat等等。

2：安装 Memcached

[root@memcache1 ~]# tar zxvf memcached-1.5.1.tar.gz

[root@memcache1 ~]# cd memcached-1.5.1

[root@memcache1 memcached-1.5.1]# ./configure \

--prefix=/usr/local/memcached \

--with-libevent=/usr/local/libevent

[root@memcache1 memcached-1.5.1]# make && make install

3：设置 Memcached 服务脚本

[root@memcache1 ~]# vim /usr/local/memcached/memcached_service.sh

#!/bin/bash

CMD="/usr/local/memcached/bin/memcached"

start(){

$CMD -d -m 128 -u root

}

stop(){

killall memcached;

}

ACTION=$1

case $ACTION in

'start')

start;;

'stop')

stop;;

'restart')

stop

sleep 2

start;;

echo 'Usage:{start|stop|restart}'

esac

[root@memcache1 ~]# yum -y install psmisc

备注:

psmisc提供了killall命令

[root@memcache1 ~]# chmod 755 /usr/local/memcached/memcached_service.sh

[root@memcache1 ~]# /usr/local/memcached/memcached_service.sh start

[root@memcache1 ~]# netstat -anpt | grep memcached

tcp 0 0 0.0.0.0:11211 0.0.0.0:* LISTEN 20564/memcached

tcp6 0 0 :::11211 :::* LISTEN 20564/memcached

Memcached API 客户端

注意：

客户端需要有apache**和php的环境，如果有之前做的LAMP的快照，可以使用这个快照**

（如果已经有此环境,**安装apache和安装php可以省略）**

设置好阿里yum**源**

yum -y install httpd mariadb mariadb-server php php-devel php-mysql

systemctl start mariadb

mysqladmin -u root password 'pwd123'

systemctl start httpd

cat <<EOF>/var/www/html/test1.php

<?php

phpinfo();

EOF

1：编译安装 Libmemcached

[root@memcached-api ~]# systemctl stop firewalld

[root@memcached-api ~]# setenforce 0

[root@memcached-api ~]# yum -y install gcc*

[root@memcached-api ~]# tar zxvf libmemcached-1.0.18.tar.gz

[root@memcached-api ~]# cd libmemcached-1.0.18

*[root@memcached-api libmemcached-1.0.18]# ./configure *

*--prefix=/usr/local/libmemcached *

--with-memcached=/usr/local/memcached

[root@memcached-api libmemcached-1.0.18]# make && make install

备注：

libmemcached 是一个 memcached 的库，客户端库，C 和 C++ 语言实现的客户端库，具有低内存占用率、线程安全、并提供对memcached功能的全面支持

2：编译安装 Memcached 扩展

（1）如果lamp是用源码包安装的，使用如下方法

[root@memcached-api ~]# tar -xzvf memcached-2.2.0.tgz

[root@memcached-api ~]# cd memcached-2.2.0/

[root@memcached-api memcached-2.2.0]# /usr/local/php5/bin/phpize

备注：

此命令可以在**memcached-2.2.0下生成memcached的配置脚本**

phpize**命令需要autoconf包的支持** ：**yum -y install autoconf**

[root@memcached-api memcached-2.2.0]# cp -r /usr/local/php5/include/php/ext/ ./

[root@memcached-api memcached-2.2.0]# *./configure *

*--enable-memcached *

*--with-php-config=/usr/local/php5/bin/php-config *

*--with-libmemcached-dir=/usr/local/libmemcached *

--disable-memcached-sasl

[root@memcached-api memcached-2.2.0]# make

[root@memcached-api memcached-2.2.0]# make test

注意：

最后会提示发送邮件报告，可以选否（**n）**

[root@memcached-api memcached-2.2.0]# make install

（2）如果lamp是用yum安装的，使用如下方法

如果是用yum安装的lamp环境，使用如下方法安装 Memcached 扩展

[root@memcached-api ~]# yum -y install zlib zlib-devel

[root@memcached-api ~]# tar -xzvf memcached-2.2.0.tgz

[root@memcached-api ~]# cd memcached-2.2.0/

[root@memcached-api memcached-2.2.0]# /usr/bin/phpize

[root@memcached-api memcached-2.2.0]# ./configure --with-php-config=/usr/bin/php-config --with-libmemcached-dir=/usr/local/libmemcached --disable-memcached-sasl --with-zlib-dir

备注：

SASL全称Simple Authentication and Security Layer，是一种用来扩充C/S模式验证能力的机制。简单来说SASL是一个胶合(glue)库，通过这个库把应用层与形式多样的认证系统整合在一起。这有点类似于 PAM，但是后者是认证方式，决定什么人可以访问什么服务，而SASL是认证过程，侧重于信任建立过程，这个过程可以调用PAM来建立信任关系。在这里Memcached就是上面提到的应用层，具体的认证交给SASL库，SASL会根据相应的认证机制来完成验证功能。

[root@memcached-api memcached-2.2.0]# make && make install

备注：

如果安装的是php7的版本，会报错：php_smart_str.h: No such file or directory

3：配置 PHP 添加 Memcached 组件

（1）添加Memcached

[root@memcached-api ~]# cd /usr/local/php5/

[root@memcached-api php5]# vim php.ini

extension_dir = "/usr/local/php5/lib/php/extensions/no-debug-zts-20121212/"

extension=memcached.so

备注：

如果使用的yum安装的php，

[root@memcache2 ~]# vim /etc/php.ini

去掉extension_dir=" "

只添加extension=memcached.so

[root@memcached-api php5]# systemctl restart httpd

（2）通过 PHPinfo 查看是否已经添加 Memcached 扩展模块

使用浏览器进行访问

4：测试 Memcached-API 功能

[root@memcached-api ~]# vim /usr/local/httpd/htdocs/test2.php

<?php

$memcache = new Memcached();

$memcache->addServer('192.168.10.101', 11211);

$memcache->set('key', 'Memcache test successful!', 0, 60);

result = memcache->get('key');

unset($memcache);

echo $result;

备注：

如果是用yum安装的lamp，此文件所在的目录在/var/www/html

访问测试：http://192.168.10.103/test2.php

Memcached 数据库操作与管理

[root@memcache1 ~]# yum -y install telnet

[root@memcache1 ~]# telnet 127.0.0.1 11211

1：添加一条键值数据

add username 0 0 8

zhangsan

STORED

备注：

表示键值名为 username，

标记位表示自定义信息为 0，

过期时间为 0（永不过期，单位为秒）

字节数为 8；

zhangsan 为值，这里需要注意输入长度为8 字节，与设定值符合

2：查询键值数据

get username

VALUE username 0 8

zhangsan

END

gets username

VALUE username 0 8 2

zhangsan

END

备注：

get 后跟键名。如果检查最近是否更新，可以使用 gets，最后一位显示的是更新因子，每更新一次更新因子数会加一

3：更新一条键值数据

set username 0 0 4

lisi

STORED

get username

VALUE username 0 4

everything

END

gets username

VALUE username 0 4 4

lisi

END

4：清除一条缓存数据

delete username

DELETED

get username

END

5：检查后更新 check and set

add username 0 0 8

zhangsan

STORED

gets username

VALUE username 0 8 7

zhangsan

END

cas username 0 0 8 1 ##注意，因为更新因子和gets得到的不一致，这个语句的更新会失败

lodging

EXISTS

cas username 0 0 8 7

zhangsai

STORED

gets username

VALUE username 0 7 8

lodging

END

备注：

cas命令的最后一个数字是更新因子，如果gets获取到的更新因子和cas命令提供的更新因子一致，则更新改数据，否则不会更新，会提示exists

cas命令的第三个数字是要更新的数据的字节数，和接下来输入进去的字符串的字节数要一致，否则会报错

6：追加数据

append username 0 0 8 //后追加 8 字节

zhangsan

STORED

get username

VALUE username 0 14

lodgingzhangsan

END

7：清除所有缓存数据

flush_all

8：查看服务器统计信息

stats

stats items //返回所有键值对统计信息

stats cachedump 1 0 //返回指定存储空间的键值对

stats slabs //显示各个 slab 的信息，包括 chunk 的大小、数目、使用情况等

stats sizes //输出所有 item 的大小和个数

stats reset //清空统计数据

9：退出

quit

案例二

Memcached 实现主主复制和高可用的方式

Memcached 主主复制架构

Memcached 的复制功能支持多个 Memcached 之间相互复制（双向复制，主备都是可读可写的），可以解决 Memcached 的容灾问题。

1：安装带有复制功能的 Memcached

（此步骤在两台memcache服务器上都执行）

（1）安装 Libevent

[root@memcache1 ~]# systemctl stop firewalld

[root@memcache1 ~]# setenforce 0

[root@memcache1 ~]# yum -y install gcc* psmisc

[root@memcache1 ~]# tar zxvf libevent-2.1.8-stable.tar.gz

[root@memcache1 ~]# cd libevent-2.1.8-stable

[root@memcache1 libevent-2.1.8-stable]# ./configure --prefix=/usr/local/libevent

[root@memcache1 libevent-2.1.8-stable]# make && make install

（2）安装memcached-1.2.8-repcached

[root@memcache1 ~]# tar zxvf memcached-1.2.8-repcached-2.2.tar.gz

[root@memcache1 ~]# cd memcached-1.2.8-repcached-2.2

[root@Memcached1 memcached-1.2.8-repcached-2.2]# *./configure *

*--prefix=/usr/local/memcached_replication *

*--enable-replication *

--with-libevent=/usr/local/libevent

[root@memcache1 memcached-1.2.8-repcached-2.2]# vim memcached.c

#找到如下几行（在55行--60行）：

/* FreeBSD 4.x doesn't have IOV_MAX exposed. */

#ifndef IOV_MAX

#if defined(FreeBSD) || defined(APPLE)

# define IOV_MAX 1024

#endif

#修改成如下所示：（删掉上面红色的两行）

/* FreeBSD 4.x doesn't have IOV_MAX exposed. */

#ifndef IOV_MAX

# define IOV_MAX 1024

#endif

[root@memcache1 memcached-1.2.8-repcached-2.2]# make && make install

2：启动Memcached 服务

（1）在memcache1上启动

[root@memcache1 ~]# ln -s /usr/local/libevent/lib/libevent-2.1.so.6 /usr/lib64/

[root@Memcached1 ~]# /usr/local/memcached_replication/bin/memcached -d -u root -m 128 -x 192.168.10.102

注意：

启动时要指向对端

-d：守护进程方式启动

-u：指定用户

-x：指定对端服务器的地址

-m：最大的内存使用单位是MB 默认是64MB

（2）在memcache2上启动

[root@memcache1 ~]# ln -s /usr/local/libevent/lib/libevent-2.1.so.6 /usr/lib64/

[root@Memcached1 ~]# /usr/local/memcached_replication/bin/memcached -d -u root -m 128 -x 192.168.10.101

备注：

-x 对方IP

-p <num> 监听的TCP端口(默认: 11211) -U <num> UDP监听端口 (默认: 11211, 0 时关闭) -d 以守护进程方式运行 -u <username> 运行运行 Memcached的账户非root用户 -m <num> 最大的内存使用单位是MB 默认是64MB -c <num> 软连接数量默认是1024 -v 输出警告和错误信息 -vv 打印客户端的请求和返回信息 -h 打印帮助信息 -i 打印memcached和libevent的版权信息 -l <ip_addr> 绑定地址 (默认:所有都允许,无论内外网或者本机更换IP，有安全隐患，若设置为127.0.0.1就只能本机访问) -P <file> 将PID写入文件<file>，这样可以使得后边进行快速进程终止, 需要与 -d 一起使用

（3）在两台服务器上检查进程

[root@memcache1 ~]# netstat -antp |grep memcached

tcp 0 0 0.0.0.0:11211 0.0.0.0:* LISTEN 52646memcached

tcp 0 0 192.168.10.101:11212 192.168.10.102:38298 ESTABLISHED 52646memcached

tcp6 0 0 :::11211 :::* LISTEN 52646memcached

[root@memcache2 ~]# netstat -antp |grep memcached

tcp 0 0 0.0.0.0:11211 0.0.0.0:* LISTEN 29976memcached

tcp 0 0 192.168.10.102:38298 192.168.10.101:11212 ESTABLISHED 29976memcached

tcp6 0 0 :::11211 :::* LISTEN 29976memcached

3：使用 telnet 进行简单验证复制功能

（1）在 Memcached1 上插入一条具有特点的键值

[root@memcache1 ~]# yum -y install telnet

[root@memcache1 ~]# telnet 192.168.10.102 11211

set username 0 0 8 #自定义信息+永不过期+8个字节

12345678

STORED

get username

VALUE username 0 8

12345678

END

quit

（2）在 Memcached2 上进行查看刚刚插入的键值

[root@memcache2 ~]# yum -y install telnet

[root@memcache2 ~]# telnet 192.168.10.102 11211

get username

VALUE username 0 8

12345678

END

gets username

VALUE username 0 8 1 #1代表更新因子，

12345678

END

cas username 0 0 8 1 #自定义信息+永不过期+8个字节+更新因子（要与gets得到的一致）

zhangsan

STORED

（3）在 Memcached1 上查看复制的情况

[root@localhost ~]# telnet 192.168.10.101 11211

Trying 192.168.10.101...

Connected to 192.168.10.101.

Escape character is '^]'.

get username

VALUE username 0 8

zhangsan

END

Memcached 主主复制+Keepalived 高可用架构

1：安装配置 keepalived（两台主机都安装）

[root@memcache1 ~]# yum -y install keepalived

（1）配置主 keepalived

[root@memcache1 ~]# vim /etc/keepalived/keepalived.conf

! Configuration File for keepalived

global_defs {

notification_email {

acassen@firewall.loc

failover@firewall.loc

sysadmin@firewall.loc

}

notification_email_from Alexandre.Cassen@firewall.loc

smtp_server 192.168.200.1

smtp_connect_timeout 30

router_id LVS_01

vrrp_skip_check_adv_addr

#vrrp_strict

vrrp_garp_interval 0

vrrp_gna_interval 0

}

vrrp_script check_down { ##定义要执行的脚本

script "/etc/keepalived/memcached.sh" ##脚本路径和名称

interval 1 ##间隔1秒执行一次

}

vrrp_instance VI_1 {

state BACKUP ##master角色不能设置nopreempt，所以此处要设置为BACKUP

interface ens33

virtual_router_id 51

priority 100 ##从主机的优先级要小于此数字

advert_int 1

nopreempt ##添加，此语句关闭了抢占功能，从主机不需要

authentication {

auth_type PASS

auth_pass 1111

}

virtual_ipaddress {

192.168.10.100

}

track_script { ##调用前面的脚本

check_down

}

备注：

vrrp_strict：严格遵守VRRP协议,禁止以下状况:1.无VIP地址 2.配置了单播邻居 3.在VRRP版本2中有IPv6地址，开启动此项会自动开启iptables防火墙规则，建议关闭此项配置

[root@memcached1 keepalived]# vim /etc/keepalived/memcached.sh

#!/bin/bash

if [ $(ps -C memcached --no-header | wc -l) -eq 0 ]; then

systemctl stop keepalived

[root@memcached1 keepalived]# chmod +x /etc/keepalived/memcached.sh

（2）配置从keepalived

[root@memcache2 ~]# vim /etc/keepalived/keepalived.conf

! Configuration File for keepalived

global_defs {

notification_email {

acassen@firewall.loc

failover@firewall.loc

sysadmin@firewall.loc

}

notification_email_from Alexandre.Cassen@firewall.loc

smtp_server 192.168.200.1

smtp_connect_timeout 30

router_id LVS_02

vrrp_skip_check_adv_addr

#vrrp_strict

vrrp_garp_interval 0

vrrp_gna_interval 0

}

vrrp_script check_down { ##定义要执行的脚本

script "/etc/keepalived/memcached.sh" ##脚本路径和名称

interval 1 ##间隔1秒执行一次

}

vrrp_instance VI_1 {

state BACKUP

interface ens33

virtual_router_id 51

priority 99 ##从主机的优先级要小于此数字

advert_int 1

authentication {

auth_type PASS

auth_pass 1111

}

virtual_ipaddress {

192.168.10.100

}

track_script { ##调用前面的脚本

check_down

}

[root@memcached2 keepalived]# vim /etc/keepalived/memcached.sh

#!/bin/bash

if [ $(ps -C memcached --no-header | wc -l) -eq 0 ]; then

systemctl stop keepalived

[root@memcached2 keepalived]# chmod +x /etc/keepalived/memcached.sh

备注：

vrrp_strict ＃严格遵守VRRP协vim议

这将禁止VIPs unicast peers (虚拟IP单播对等体)，这样会使得这个VIP无法进行单播通信

2：测试验证

（1）在两台服务器上启动keepalived

[root@Memcached1 ~]# systemctl start keepalived

[root@memcached2 ~]# systemctl start keepalived

（2）在客户端修改缓存服务器地址

[root@memcached-api ~]# vim /usr/local/httpd/htdocs/test3.php

<?php

$memcache = new Memcached();

$memcache->addServer('192.168.10.100', 11211);

$memcache->set('key', 'Memcache test successful!', 0, 60);

result = memcache->get('key');

unset($memcache);

echo $result;

注意：

如果是yum安装的httpd，次此文件在/var/www/html目录下

（3）浏览器访问测试

备注：

pkill memcached

检查当前主机的memceched进程和keepalived进程，

关闭memcached后，该主机的keepalived也会被脚本关闭，于是VIP就漂移到了另一台主机，待此主机修好后，把memcached和keepalived开启，由于设置了不抢占，VIP不会抢占回来，但是把第二台主机的memcached关闭后，第二台主机的keepalived也会关闭，于是VIP就漂移回了第一台主机。完成故障的转移。

码农公寓

Memcached概述

原理

架构

工作流程

部署

单memcached节点缓存系统

设置各节点的主机名

安装 Memcached 服务器

1：安装 Libevent

2：安装 Memcached

Memcached API 客户端

1：编译安装 Libmemcached

2：编译安装 Memcached 扩展

Memcached 数据库操作与管理

案例二

Memcached 实现主主复制和高可用的方式

Memcached 主主复制架构

1：安装带有复制功能的 Memcached

2：启动Memcached 服务

3：使用 telnet 进行简单验证复制功能

Memcached 主主复制+Keepalived 高可用架构

相关文章