自定义IRule
本文,我们通过IRule接口,实现一个自定义的负载均衡策略——一致性哈希。
关于一致性哈希原理不是本文探讨的重点,如果不了解的同学可以看下这篇文章《一致性哈希算法的原理与实现》,写的还是挺不错的。
一致性哈希不仅在负载均衡的领域,在很多其他的领域都有广泛的应用。
我们废话不多说,直接开干!
首先我们在ribbon-consumer的模块下,创建一个类并继承AbstractLoadBalancerRule和实现IRule接口:
然后从上下文中获取HttpServletRequest对象:
HttpServletRequest request = ((ServletRequestAttributes)
Objects.requireNonNull(RequestContextHolder
.getRequestAttributes()))
.getRequest();
我们通过request对象,获取一个作为摘要的信息,这里我们就采取uri作为摘要:
String uri = request.getServletPath() + "?" + request.getQueryString();
我们我们定义route方法,来实现寻找server的逻辑:
public Server route(int hashId, List<Server> addressList){
if (CollectionUtils.isEmpty(addressList)) {
return null;
}
TreeMap<Long, Server> address = new TreeMap<>();
addressList.forEach(e->{
//把每个server利用for循环计算出若干个(8个)个不同的hash值,分布在圆环当中。
//这个方式并不是均匀的分布,这里只是配合一致性哈希算法的思想做一个简单的例子。
for (int i = 0; i < 8; i++) {
long hash = hash(e.getId() + i);
address.put(hash, e);
}
});
long hash = hash(String.valueOf(hashId));
SortedMap<Long, Server> last = address.tailMap(hash);
//当request Url的hash值大于任意一个服务器对应的hashKey,
//取address中的第一个节点
if (last.isEmpty()) {
return address.firstEntry().getValue();
}
return last.get(last.firstKey());
}
这里,我们利用TreeMap存储虚化的服务节点列表,然后利用tailMap的特性获取后面的server,如果last为空我们就返回第一个元素,因为last为空时就是表示这是最后一个元素了,这就相当于我们让它形成了一个闭环。
我们这里还需要一个返回hash值的方法:
public long hash(String key) {
MessageDigest md5;
try {
md5 = MessageDigest.getInstance("MD5");
} catch (NoSuchAlgorithmException e){
throw new RuntimeException(e);
}
byte [] bytes = key.getBytes(StandardCharsets.UTF_8);
md5.update(bytes);
byte[] digest = md5.digest();
long hashCode = (digest[2] & 0xFF << 16)
| (digest[1] & 0xFF << 8)
| (digest[0] & 0xFF);
return hashCode & 0xffffffffL;
}
这里的digest就是我么要拿到的摘要,然后根据这个摘要我们来生成hashCode,这个digest是16位,我们就挑前三个就好了,我们先拿第二位往前移16位,第一位移8位,第0位就不需要移位了。
到这里我们的一致性哈希算法就已经编写完成了,下面我们就测试一把,
我们先加上无参构造:
然后我们通过配置,指定Ribbon的负载均衡策略为我们定义的MyRule:
紧接着,我们启动三个eureka-client和ribbon-consumer:
这样我们通过Postman测试一下:
这里我们测试可以发现,我们的请求永远都是打在了30001这个节点上。
然后我们换一下请求的参数:
可以看到这次请求落在了30000上。
紧接着我们尝试把30000这个节点下线:
再次利用Postman请求:
可以看到不论怎么请求,这次又一直落在了30002这个节点上了。
到这里,我们已经学会了如何利用IRule来实现自定义的负载均衡策略,并且能够把它应用在我们的实际项目当中了。