Spring Cloud Ribbon 客户端负载均衡

2021-11-29 09:20:16

Ribbon客户端组件提供一系列完善的配置选项，比如连接超时、重试、重试算法等，内置可插拔、可定制的负载均衡组件。下面是用到的一些负载均衡策略：

简单轮询负载均衡
加权轮询负载均衡
区域感知轮询负载均衡
随机负载均衡
先写一个类模拟一个IP列表：

public class IpMap
{

// 待路由的Ip列表，Key代表Ip，Value代表该Ip的权重
public static HashMap<String, Integer> serverWeightMap = 
        new HashMap<String, Integer>();

static
{
    serverWeightMap.put("192.168.1.100", 1);
    serverWeightMap.put("192.168.1.101", 1);
    // 权重为4
    serverWeightMap.put("192.168.1.102", 4);
    serverWeightMap.put("192.168.1.103", 1);
    serverWeightMap.put("192.168.1.104", 1);
    // 权重为3
    serverWeightMap.put("192.168.1.105", 3);
    serverWeightMap.put("192.168.1.106", 1);
    // 权重为2
    serverWeightMap.put("192.168.1.107", 2);
    serverWeightMap.put("192.168.1.108", 1);
    serverWeightMap.put("192.168.1.109", 1);
    serverWeightMap.put("192.168.1.110", 1);
}

}
区域感知负载均衡
在选择服务器时，该负载均衡器会采取如下步骤：

区域感知负载均衡器内置电路跳闸逻辑，可被配置基于区域同源关系（Zone Affinity，也就是更倾向于选择发出调用的服务所在的托管区域内，这样可用降低延迟，节省成本）选择目标服务实例。它监控每个区域中运行的实例的运维行为，而且能够实时快速丢弃一整个区域。在面对整个区域的故障时，这帮我们提升了弹性。

1、负载均衡器会检查、计算所有可用区域的状态。如果某个区域中平均每个服务器的活跃请求已经达到配置的阈值，该区域将从活跃服务器列表中排除。如果多于一个区域已经到达阈值，平均每服务器拥有最多活跃请求的区域将被排除。
2、最差的区域被排除后，从剩下的区域中，将按照服务器实例数的概率抽样法选择一个区域。
3、从选定区域中，将会根据给定负载均衡策略规则返回一个服务器。

简单轮询算法
将请求按顺序轮流地分配到后端服务器上，它均衡地对待后端的每一台服务器，而不关心服务器实际的连接数和当前的系统负载。代码实现大致如下：

public class RoundRobin
{

private static Integer pos = 0;

public static String getServer()
{
    // 重建一个Map，避免服务器的上下线导致的并发问题
    Map<String, Integer> serverMap = 
            new HashMap<String, Integer>();
    serverMap.putAll(IpMap.serverWeightMap);
    
    // 取得Ip地址List
    Set<String> keySet = serverMap.keySet();
    ArrayList<String> keyList = new ArrayList<String>();
    keyList.addAll(keySet);
    
    String server = null;
    synchronized (pos)
    {
        if (pos > keySet.size())
            pos = 0;
        server = keyList.get(pos);
        pos ++;
    }
    
    return server;
}

}
优点：试图做到请求转移的绝对均衡。
缺点：为了做到请求转移的绝对均衡，必须付出相当大的代价，因为为了保证pos变量修改的互斥性，需要引入重量级的悲观锁synchronized，这将会导致该段轮询代码的并发吞吐量发生明显的下降。
加权轮询算法
不同的后端服务器可能机器的配置和当前系统的负载并不相同，因此它们的抗压能力也不相同。给配置高、负载低的机器配置更高的权重，让其处理更多的请；而配置低、负载高的机器，给其分配较低的权重，降低其系统负载，加权轮询能很好地处理这一问题，并将请求顺序且按照权重分配到后端。代码大致如下：

public class WeightRoundRobin
{

private static Integer pos;

public static String getServer()
{
    // 重建一个Map，避免服务器的上下线导致的并发问题
    Map<String, Integer> serverMap = 
            new HashMap<String, Integer>();
    serverMap.putAll(IpMap.serverWeightMap);
    
    // 取得Ip地址List
    Set<String> keySet = serverMap.keySet();
    Iterator<String> iterator = keySet.iterator();
    
    List<String> serverList = new ArrayList<String>();
    while (iterator.hasNext())
    {
        String server = iterator.next();
        int weight = serverMap.get(server);
        for (int i = 0; i < weight; i++)
            serverList.add(server);
    }
    
    String server = null;
    synchronized (pos)
    {
        if (pos > keySet.size())
            pos = 0;
        server = serverList.get(pos);
        pos ++;
    }
    
    return server;
}

}
随机负载均衡
通过系统的随机算法，根据后端服务器的列表大小值来随机选取其中的一台服务器进行访问。由概率统计理论可以得知，随着客户端调用服务端的次数增多，其实际效果越来越接近于平均分配调用量到后端的每一台服务器，也就是轮询的结果。大致代码如下：

public class Random
{

public static String getServer()
{
    // 重建一个Map，避免服务器的上下线导致的并发问题
    Map<String, Integer> serverMap = 
            new HashMap<String, Integer>();
    serverMap.putAll(IpMap.serverWeightMap);
    
    // 取得Ip地址List
    Set<String> keySet = serverMap.keySet();
    ArrayList<String> keyList = new ArrayList<String>();
    keyList.addAll(keySet);
    
    java.util.Random random = new java.util.Random();
    int randomPos = random.nextInt(keyList.size());
    
    return keyList.get(randomPos);
}

}
原文地址https://www.cnblogs.com/Alandre/p/13041113.html

码农公寓

相关文章