问题复现

在使用celery + rabbitmq作为broker时,启动一定时间后 会 由于celery和rabbitmq的心跳检测机制 认为连接有问题,先报 如下错误

Too many heartbeats missed

再过一段时间,由于认为心跳有问题,会断开tcp连接,就会报 如下错误:

ConnectionResetError: [Errno 104] Connection reset by peer

这时 tcp连接被断开,但是 celery的worker还在继续处理任务,等worker处理完任务 需要回写ack告诉rabbitmq此任务已经完成,由于tcp已经断开连接,就会报如下错误(原因是 tcp断开连接,向一个已经关闭的socket写入数据时就是这个Broken pipe错误)

解决方法

• 既然心跳机制有问题,就去掉心跳机制, celery配置中 将 broker_heartbeat 值改为0 即可;

解决此问题的限制情景

• celery连接的broker必须为rabbitmq(不能为redis等等)
• celery的transport必须是 pyamqp,一般默认就是pyamqp,而不是librabbitmq(只要不安装librabbitmq库)

其他

• 此bug即使在目前最新的celery 5.1.2版本仍然无法解决,只能通过设置参数禁用心跳机制;
• 经过1周的测试,禁用心跳机制后,celery worker正常消费任务,无任何问题;

heartbeat通常用来检测通信的对端是否存活（未正常关闭socket连接而异常crash）。其基本原理是检测对应的socket连接上数据的收发是否正常，如果一段时间内没有收发数据，则向对端发送一个心跳检测包，如果一段时间内没有回应则认为心跳超时，即认为对端可能异常crash了。

rabbitmq也不例外，heatbeat在客户端和服务端之间用于检测对端是否正常，即客户端与服务端之间的tcp链接是否正常。

关于rabbitmq心跳

1.heartbeat检测时间间隔可在配置文件rabbitmq.config中增加配置项{heartbeat,Timeout}进行配置，其中Timeout指定时间间隔，单位为秒，另外客户端也可以配置heartbeat时间。

如果服务端没有配置
默认代理心跳时间：
RabbitMQ 3.2.2：580秒
RabbitMQ 3.5.5：60秒

3.心跳每 heartbeat timeout / 2 秒发送一次，服务器两次没有接收到则断开tcp连接，以前的连接将失效，客户端需要重新连接。
4.如果你使用Java, .NET and Erlang clients，服务器与客户端会协商heartbeat时间

• 如果其中一个值为0，则使用两者中较大的一个
• 否则，使用两者中较小的一个
• 两个值都为0，则表示要禁用心跳，则服务端与客户端维持此tcp连接，不会断开。
• 注意：在python客户端上直接设置为0，则禁用心跳。

禁用心跳在python客户端该如何设置：

• 在py3:ConnectionParameters设置heartbeat_interval=0即可。
• 在py2:ConnectionParameters设置heartbeat=0即可。

5.连接上的任何流量（传输的有效数据、确认等）都将被计入有效心跳，当然也包括心跳帧。

6.我在网上看到有人问到这个问题：

为什么服务端宕机，在心跳检测机制下，服务器侧断开连接，而客户端这边不能检测到tcp断开，我测试过，客户端确实不能检测到tcp连接断开，只有当客户端在这个tcp有操作后，才能检测到，当然在一个断开的tcp连接上做操作会报错（如发送消息）。

import pika  
import time  

credit = pika.PlainCredentials(username='cloud', password='cloud')
connection = pika.BlockingConnection(pika.ConnectionParameters(
    host='10.32.1.12', credentials=credit))
channel = connection.channel()  
while True:
    connect_close = connection.is_closed
    connect_open = connection.is_open
    channel_close = channel.is_closed
    channel_open = channel.is_open
    
    print("connection is_closed ", connect_close)
    print("connection is_open ", connect_open)
    print("channel is_closed ", channel_close)
    print("channel is_open ", channel_open)
    print("")
    time.sleep(5)

7.一些RabbitMQ客户端（Bunny，Java，.NET，Objective-C，Swift）提供了一种在网络故障后自动恢复连接的机制，而pika只能通过检测连接异常后再重新创建连接的方式。

示例代码：通过检测连接异常，重新创建连接：

import pika

while True:
    try:
        connection = pika.BlockingConnection()
        channel = connection.channel()
        channel.basic_consume('test', on_message_callback)
        channel.start_consuming()
    # Don't recover if connection was closed by broker
    except pika.exceptions.ConnectionClosedByBroker:
        break
    # Don't recover on channel errors
    except pika.exceptions.AMQPChannelError:
        break
    # Recover on all other connection errors
    except pika.exceptions.AMQPConnectionError:
        continue

from retry import retry

@retry(pika.exceptions.AMQPConnectionError, delay=5, jitter=(1, 3))
def consume():
    connection = pika.BlockingConnection()
    channel = connection.channel()
    channel.basic_consume('test', on_message_callback)
    try:
        channel.start_consuming()
    # Don't recover connections closed by server
    except pika.exceptions.ConnectionClosedByBroker:
        pass
consume()

heartbeat的实现

rabbitmq在收到来自客户端的connection.tune-ok信令后，启用心跳检测，rabbitmq会为每个tcp连接创建两个进程用于心跳检测，一个进程定时检测tcp连接上是否有数据发送（这里的发送是指rabbitmq发送数据给客户端），如果一段时间内没有数据发送给客户端，则发送一个心跳包给客户端，然后循环进行下一次检测；

另一个进程定时检测tcp连接上是否有数据的接收，如果一段时间内没有收到任何数据，则判定为心跳超时，最终会关闭tcp连接。另外，rabbitmq的流量控制机制可能会暂停heartbeat检测，这里不展开描述。