java实现rabbitMQ延时队列详解以及spring-rabbit整合教程

在实际的业务中我们会遇见生产者产生的消息,不立即消费,而是延时一段时间在消费。RabbitMQ本身没有直接支持延迟队列功能,但是我们可以根据其特性Per-Queue Message TTL和 Dead Letter Exchanges实现延时队列。也可以通过改特性设置消息的优先级。

1.Per-Queue Message TTL
RabbitMQ可以针对消息和队列设置TTL(过期时间)。队列中的消息过期时间(Time To Live, TTL)有两种方法可以设置。第一种方法是通过队列属性设置,队列中所有消息都有相同的过期时间。第二种方法是对消息进行单独设置,每条消息TTL可以不同。如果上述两种方法同时使用,则消息的过期时间以两者之间TTL较小的那个数值为准。消息在队列的生存时间一旦超过设置的TTL值,就成为dead message,消费者将无法再收到该消息。
2.Dead Letter Exchanges
当消息在一个队列中变成死信后,它能被重新publish到另一个Exchange。消息变成Dead Letter一向有以下几种情况:
消息被拒绝(basic.reject or basic.nack)并且requeue=false
消息TTL过期
队列达到最大长度
实际上就是设置某个队列的属性,当这个队列中有Dead Letter时,RabbitMQ就会自动的将这个消息重新发布到设置的Exchange中去,进而被路由到另一个队列,publish可以监听这个队列中消息做相应的处理,这个特性可以弥补RabbitMQ 3.0.0以前支持的immediate参数中的向publish确认的功能。

虽然 consumer 从来看不到过期的 message ,但是在过期 message 到达 queue 的头部时确实会被真正的丢弃(或者 dead-lettered )。当对每一个 queue 设置了 TTL 值时不会产生任何问题,因为过期的 message 总是会出现在 queue 的头部。当对每一条 message 设置了 TTL 时,过期的 message 可能会排队于未过期 message 的后面,直到这些消息被 consume 到或者过期了。在这种情况下,这些过期的 message 使用的资源将不会被释放,且会在 queue 统计信息中被计算进去(例如,queue 中存在的 message 的数量)。对于第一种设置队列TTL属性的方法,一旦消息过期,就会从队列中抹去,而第二种方法里,即使消息过期,也不会马上从队列中抹去,因为每条消息是否过期时在即将投递到消费者之前判定的,为什么两者得处理方法不一致?因为第一种方法里,队列中已过期的消息肯定在队列头部,RabbitMQ只要定期从队头开始扫描是否有过期消息即可,而第二种方法里,每条消息的过期时间不同,如果要删除所有过期消息,势必要扫描整个队列,所以不如等到此消息即将被消费时再判定是否过期,如果过期,再进行删除。

一、在队列上设置TTL

java实现rabbitMQ延时队列详解以及spring-rabbit整合教程

1.建立delay.exchange

java实现rabbitMQ延时队列详解以及spring-rabbit整合教程

这里Internal设置为NO,否则将无法接受dead letter,YES表示这个exchange不可以被client用来推送消息,仅用来进行exchange和exchange之间的绑定。

2.建立延时队列(delay queue)

java实现rabbitMQ延时队列详解以及spring-rabbit整合教程

如上配置延时5min队列(x-message-ttl=300000)

x-max-length:最大积压的消息个数,可以根据自己的实际情况设置,超过限制消息不会丢失,会立即转向delay.exchange进行投递

x-dead-letter-exchange:设置为刚刚配置好的delay.exchange,消息过期后会通过delay.exchange进行投递

这里不需要配置"dead letter routing key"否则会覆盖掉消息发送时携带的routingkey,导致后面无法路由为刚才配置的delay.exchange

3.配置延时路由规则

需要延时的消息到exchange后先路由到指定的延时队列

1)创建delaysync.exchange通过Routing key将消息路由到延时队列

2.配置delay.exchange 将消息投递到正常的消费队列

配置完成。

下面使用代码测试一下:

生产者:

  1.  
    package cn.slimsmart.study.rabbitmq.delayqueue.queue;
  2.  
     
  3.  
    import java.io.IOException;
  4.  
     
  5.  
    import com.rabbitmq.client.Channel;
  6.  
    import com.rabbitmq.client.Connection;
  7.  
    import com.rabbitmq.client.ConnectionFactory;
  8.  
     
  9.  
    public class Producer {
  10.  
     
  11.  
    private static String queue_name = "test.queue";
  12.  
     
  13.  
    public static void main(String[] args) throws IOException {
  14.  
    ConnectionFactory factory = new ConnectionFactory();
  15.  
    factory.setHost("10.1.199.169");
  16.  
    factory.setUsername("admin");
  17.  
    factory.setPassword("123456");
  18.  
    Connection connection = factory.newConnection();
  19.  
    Channel channel = connection.createChannel();
  20.  
    // 声明队列
  21.  
    channel.queueDeclare(queue_name, true, false, false, null);
  22.  
    String message = "hello world!" + System.currentTimeMillis();
  23.  
    channel.basicPublish("delaysync.exchange", "deal.message", null, message.getBytes());
  24.  
    System.out.println("sent message: " + message + ",date:" + System.currentTimeMillis());
  25.  
    // 关闭频道和连接
  26.  
    channel.close();
  27.  
    connection.close();
  28.  
    }
  29.  
    }

消费者:

  1.  
    package cn.slimsmart.study.rabbitmq.delayqueue.queue;
  2.  
     
  3.  
    import com.rabbitmq.client.Channel;
  4.  
    import com.rabbitmq.client.Connection;
  5.  
    import com.rabbitmq.client.ConnectionFactory;
  6.  
    import com.rabbitmq.client.QueueingConsumer;
  7.  
     
  8.  
    public class Consumer {
  9.  
     
  10.  
    private static String queue_name = "test.queue";
  11.  
     
  12.  
    public static void main(String[] args) throws Exception {
  13.  
    ConnectionFactory factory = new ConnectionFactory();
  14.  
    factory.setHost("10.1.199.169");
  15.  
    factory.setUsername("admin");
  16.  
    factory.setPassword("123456");
  17.  
    Connection connection = factory.newConnection();
  18.  
    Channel channel = connection.createChannel();
  19.  
    // 声明队列
  20.  
    channel.queueDeclare(queue_name, true, false, false, null);
  21.  
    QueueingConsumer consumer = new QueueingConsumer(channel);
  22.  
    // 指定消费队列
  23.  
    channel.basicConsume(queue_name, true, consumer);
  24.  
    while (true) {
  25.  
    // nextDelivery是一个阻塞方法(内部实现其实是阻塞队列的take方法)
  26.  
    QueueingConsumer.Delivery delivery = consumer.nextDelivery();
  27.  
    String message = new String(delivery.getBody());
  28.  
    System.out.println("received message:" + message + ",date:" + System.currentTimeMillis());
  29.  
    }
  30.  
    }
  31.  
     
  32.  
    }

二、在消息上设置TTL

java实现rabbitMQ延时队列详解以及spring-rabbit整合教程

实现代码:

生产者:

  1.  
    package cn.slimsmart.study.rabbitmq.delayqueue.message;
  2.  
     
  3.  
    import java.io.IOException;
  4.  
    import java.util.HashMap;
  5.  
     
  6.  
    import com.rabbitmq.client.AMQP;
  7.  
    import com.rabbitmq.client.Channel;
  8.  
    import com.rabbitmq.client.Connection;
  9.  
    import com.rabbitmq.client.ConnectionFactory;
  10.  
     
  11.  
    public class Producer {
  12.  
     
  13.  
    private static String queue_name = "message_ttl_queue";
  14.  
     
  15.  
    public static void main(String[] args) throws IOException {
  16.  
    ConnectionFactory factory = new ConnectionFactory();
  17.  
    factory.setHost("10.1.199.169");
  18.  
    factory.setUsername("admin");
  19.  
    factory.setPassword("123456");
  20.  
    Connection connection = factory.newConnection();
  21.  
    Channel channel = connection.createChannel();
  22.  
    HashMap<String, Object> arguments = new HashMap<String, Object>();
  23.  
    arguments.put("x-dead-letter-exchange", "amq.direct");
  24.  
    arguments.put("x-dead-letter-routing-key", "message_ttl_routingKey");
  25.  
    channel.queueDeclare("delay_queue", true, false, false, arguments);
  26.  
     
  27.  
    // 声明队列
  28.  
    channel.queueDeclare(queue_name, true, false, false, null);
  29.  
    // 绑定路由
  30.  
    channel.queueBind(queue_name, "amq.direct", "message_ttl_routingKey");
  31.  
     
  32.  
    String message = "hello world!" + System.currentTimeMillis();
  33.  
    // 设置延时属性
  34.  
    AMQP.BasicProperties.Builder builder = new AMQP.BasicProperties.Builder();
  35.  
    // 持久性 non-persistent (1) or persistent (2)
  36.  
    AMQP.BasicProperties properties = builder.expiration("300000").deliveryMode(2).build();
  37.  
    // routingKey =delay_queue 进行转发
  38.  
    channel.basicPublish("", "delay_queue", properties, message.getBytes());
  39.  
    System.out.println("sent message: " + message + ",date:" + System.currentTimeMillis());
  40.  
    // 关闭频道和连接
  41.  
    channel.close();
  42.  
    connection.close();
  43.  
    }
  44.  
    }

消费者:

  1.  
    package cn.slimsmart.study.rabbitmq.delayqueue.message;
  2.  
     
  3.  
    import java.util.HashMap;
  4.  
     
  5.  
    import com.rabbitmq.client.Channel;
  6.  
    import com.rabbitmq.client.Connection;
  7.  
    import com.rabbitmq.client.ConnectionFactory;
  8.  
    import com.rabbitmq.client.QueueingConsumer;
  9.  
     
  10.  
    public class Consumer {
  11.  
     
  12.  
    private static String queue_name = "message_ttl_queue";
  13.  
     
  14.  
    public static void main(String[] args) throws Exception {
  15.  
    ConnectionFactory factory = new ConnectionFactory();
  16.  
    factory.setHost("10.1.199.169");
  17.  
    factory.setUsername("admin");
  18.  
    factory.setPassword("123456");
  19.  
    Connection connection = factory.newConnection();
  20.  
    Channel channel = connection.createChannel();
  21.  
    HashMap<String, Object> arguments = new HashMap<String, Object>();
  22.  
    arguments.put("x-dead-letter-exchange", "amq.direct");
  23.  
    arguments.put("x-dead-letter-routing-key", "message_ttl_routingKey");
  24.  
    channel.queueDeclare("delay_queue", true, false, false, arguments);
  25.  
     
  26.  
    // 声明队列
  27.  
    channel.queueDeclare(queue_name, true, false, false, null);
  28.  
    // 绑定路由
  29.  
    channel.queueBind(queue_name, "amq.direct", "message_ttl_routingKey");
  30.  
     
  31.  
    QueueingConsumer consumer = new QueueingConsumer(channel);
  32.  
    // 指定消费队列
  33.  
    channel.basicConsume(queue_name, true, consumer);
  34.  
    while (true) {
  35.  
    // nextDelivery是一个阻塞方法(内部实现其实是阻塞队列的take方法)
  36.  
    QueueingConsumer.Delivery delivery = consumer.nextDelivery();
  37.  
    String message = new String(delivery.getBody());
  38.  
    System.out.println("received message:" + message + ",date:" + System.currentTimeMillis());
  39.  
    }
  40.  
    }
  41.  
     
  42.  
    }

spring-rabbit整合教程

maven依赖:

  1.  
    <dependency>
  2.  
    <groupId>org.springframework.amqp</groupId>
  3.  
    <artifactId>spring-rabbit</artifactId>
  4.  
    <version>1.4.6.RELEASE</version>
  5.  
    </dependency>

spring配置文件(在文件头部引入rabbit的命名空间和约束文件):

  1.  
    <?xml version="1.0" encoding="UTF-8"?>
  2.  
    <beans xmlns="http://www.springframework.org/schema/beans"
  3.  
    xmlns:aop="http://www.springframework.org/schema/aop"
  4.  
    xmlns:context="http://www.springframework.org/schema/context"
  5.  
    xmlns:mvc="http://www.springframework.org/schema/mvc"
  6.  
    xmlns:task="http://www.springframework.org/schema/task"
  7.  
    xmlns:tx="http://www.springframework.org/schema/tx"
  8.  
    xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
  9.  
    xmlns:rabbit="http://www.springframework.org/schema/rabbit"
  10.  
    xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans.xsd
  11.  
    http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context.xsd
  12.  
    http://www.springframework.org/schema/mvc http://www.springframework.org/schema/mvc/spring-mvc.xsd
  13.  
    http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop.xsd
  14.  
    http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx.xsd
  15.  
    http://www.springframework.org/schema/rabbit http://www.springframework.org/schema/rabbit/spring-rabbit.xsd
  16.  
    http://www.springframework.org/schema/task http://www.springframework.org/schema/task/spring-task-3.0.xsd">
  17.  
     
  18.  
    <!-- 定义Rabbit,指定连接工厂 -->
  19.  
    <rabbit:connection-factory id="connectionFactory" host="你的rabbitMQ服务的ip" virtual-host="/vhost名称" username="用户名" password="密码" port="5672" />
  20.  
     
  21.  
    <!-- MQ的管理,包括队列、交换器等 -->
  22.  
    <rabbit:admin connection-factory="connectionFactory"/>
  23.  
     
  24.  
    <!-- 定义Rabbit模板,指定连接工厂以及定义exchange -->
  25.  
    <rabbit:template id="amqpTemplate" exchange="my_exchange" connection-factory="connectionFactory" />
  26.  
     
  27.  
    <!-- queue 队列声明 -->
  28.  
    <!-- durable 是否持久化 ,exclusive 仅创建者可以使用的私有队列,断开后自动删除 ,auto-delete 当所有消费端连接断开后,是否自动删除队列 -->
  29.  
    <rabbit:queue name="my_queue" durable="true" auto-delete="false" exclusive="false"/>
  30.  
     
  31.  
    <!-- 交换机定义 -->
  32.  
    <!-- direct-exchange 模式:消息与一个特定的路由器完全匹配,才会转发; topic-exchange 模式:按规则转发消息,最灵活 -->
  33.  
    <rabbit:topic-exchange name="my_exchange" durable="true" auto-delete="false">
  34.  
    <rabbit:bindings>
  35.  
    <!-- 设置消息Queue匹配的pattern (direct模式为key) -->
  36.  
    <rabbit:binding queue="my_queue" pattern="my_patt"/>
  37.  
    </rabbit:bindings>
  38.  
    </rabbit:topic-exchange>
  39.  
     
  40.  
     
  41.  
    <!-- 引入消费者 -->
  42.  
    <bean id="rabbitmqService" class="com.group.service.RabbitmqService" />
  43.  
     
  44.  
    <!-- 配置监听 消费者 acknowledeg = manual,auto,none -->
  45.  
    <rabbit:listener-container connection-factory="connectionFactory" acknowledge="auto" >
  46.  
    <!-- queues 监听队列,多个用逗号分隔; ref 监听器 -->
  47.  
    <rabbit:listener queue-names="my_queue" ref="rabbitmqService" method="test"/>
  48.  
    </rabbit:listener-container>
  49.  
     
  50.  
    </beans>

那么在项目中装配amqpTemplate中就可以发送消息了

上一篇:IntelliJ IDEA 打包可运行的 JAR


下一篇:Hive配置Tez引擎踩坑