rabbitmq延迟队列原理
Rabbitmq heartbea心跳检测机制原理解析前言
使用rabbitmq的时候,当你客户端与rabbitmq服务器之间一段时间没有流量,服务器将会断开与客户端之间tcp连接。
而你将在服务器上看这样的日志:
missed heartbeats from client, timeout: xxs
这个间隔时间就是心跳间隔。
heartbeat通常用来检测通信的对端是否存活(未正常关闭socket连接而异常crash)。其基本原理是检测对应的socket连接上数据的收发是否正常,如果一段时间内没有收发数据,则向对端发送一个心跳检测包,如果一段时间内没有回应则认为心跳超时,即认为对端可能异常crash了。
rabbitmq也不例外,heatbeat在客户端和服务端之间用于检测对端是否正常,即客户端与服务端之间的tcp链接是否正常。
关于rabbitmq心跳
1.heartbeat检测时间间隔可在配置文件rabbitmq.config中增加配置项{heartbeat,Timeout}进行配置,其中Timeout指定时间间隔,单位为秒,另外客户端也可以配置heartbeat时间。
如果服务端没有配置
默认代理心跳时间:
RabbitMQ 3.2.2:580秒
RabbitMQ 3.5.5:60秒
2.官方建议不要禁用心跳,且建议心跳时间为60秒。
3.心跳每 heartbeat timeout / 2 秒发送一次,服务器两次没有接收到则断开tcp连接,以前的连接将失效,客户端需要重新连接。
4.如果你使用Java, .NET and Erlang clients,服务器与客户端会协商heartbeat时间
如果其中一个值为0,则使用两者中较大的一个
否则,使用两者中较小的一个
两个值都为0,则表示要禁用心跳,则服务端与客户端维持此tcp连接,不会断开。
注意:在python客户端上直接设置为0,则禁用心跳。
禁用心跳在python客户端该如何设置:
在py3:ConnectionParameters设置heartbeat_interval=0即可。
在py2:ConnectionParameters设置heartbeat=0即可。
5.连接上的任何流量(传输的有效数据、确认等)都将被计入有效心跳,当然也包括心跳帧。
6.我在网上看到有人问到这个问题:
为什么服务端宕机,在心跳检测机制下,服务器侧断开连接,而客户端这边不能检测到tcp断开,我测试过,客户端确实不能检测到tcp连接断开,只有当客户端在这个tcp有操作后,才能检测到,当然在一个断开的tcp连接上做操作会报错(如发送消息)。
import pika import time credit = pika.PlainCredentials(username='cloud', password='cloud') connection = pika.BlockingConnection(pika.ConnectionParameters( host='10.32.1.12', credentials=credit)) channel = connection.channel() while True: connect_close = connection.is_closed connect_open = connection.is_open channel_close = channel.is_closed channel_open = channel.is_open print("connection is_closed ", connect_close) print("connection is_open ", connect_open) print("channel is_closed ", channel_close) print("channel is_open ", channel_open) print("") time.sleep(5)
7.一些RabbitMQ客户端(Bunny,Java,.NET,Objective-C,Swift)提供了一种在网络故障后自动恢复连接的机制,而pika只能通过检测连接异常后再重新创建连接的方式。
示例代码:通过检测连接异常,重新创建连接:
import pika while True: try: connection = pika.BlockingConnection() channel = connection.channel() channel.basic_consume('test', on_message_callback) channel.start_consuming() # Don't recover if connection was closed by broker except pika.exceptions.ConnectionClosedByBroker: break # Don't recover on channel errors except pika.exceptions.AMQPChannelError: break # Recover on all other connection errors except pika.exceptions.AMQPConnectionError: continue
你也可以使用操作重试库,例如 retry。
from retry import retry @retry(pika.exceptions.AMQPConnectionError, delay=5, jitter=(1, 3)) def consume(): connection = pika.BlockingConnection() channel = connection.channel() channel.basic_consume('test', on_message_callback) try: channel.start_consuming() # Don't recover connections closed by server except pika.exceptions.ConnectionClosedByBroker: pass consume()
heartbeat的实现
rabbitmq在收到来自客户端的connection.tune-ok信令后,启用心跳检测,rabbitmq会为每个tcp连接创建两个进程用于心跳检测,一个进程定时检测tcp连接上是否有数据发送(这里的发送是指rabbitmq发送数据给客户端),如果一段时间内没有数据发送给客户端,则发送一个心跳包给客户端,然后循环进行下一次检测;另一个进程定时检测tcp连接上是否有数据的接收,如果一段时间内没有收到任何数据,则判定为心跳超时,最终会关闭tcp连接。另外,rabbitmq的流量控制机制可能会暂停heartbeat检测,这里不展开描述。
涉及的源码:
start(SupPid, Sock, SendTimeoutSec, SendFun, ReceiveTimeoutSec, ReceiveFun) -> %%数据发送检测进程 {ok, Sender} = start_heartbeater(SendTimeoutSec, SupPid, Sock, SendFun, heartbeat_sender, start_heartbeat_sender), %%数据接收检测进程 {ok, Receiver} = start_heartbeater(ReceiveTimeoutSec, SupPid, Sock, ReceiveFun, heartbeat_receiver, start_heartbeat_receiver), {Sender, Receiver}. start_heartbeat_sender(Sock, TimeoutSec, SendFun) -> %% the 'li 2' is there so that we don't end up waiting for %% nearly 2 * TimeoutSec before sending a heartbeat in the %% boundary case heartbeater({Sock, TimeoutSec * 1000 li 2, send_oct, 0, fun () -> SendFun(), continue end}). start_heartbeat_receiver(Sock, TimeoutSec, ReceiveFun) -> %% we check for incoming data every interval, and time out after %% two checks with no change. As a result we will time out %% between 2 and 3 intervals after the last data has been %% received heartbeater({Sock, TimeoutSec * 1000, recv_oct, 1, fun () -> ReceiveFun(), stop end}). heartbeater({Sock, TimeoutMillisec, StatName, Threshold, Handler} = Params, Deb, {StatVal, SameCount} = State) -> Recurse = fun (State1) -> heartbeater(Params, Deb, State1) end, receive ... %% 定时检测 after TimeoutMillisec -> case rabbit_net:getstat(Sock, [StatName]) of {ok, [{StatName, NewStatVal}]} -> %% 收发数据有变化 if NewStatVal =/= StatVal -> %%重新开始检测 Recurse({NewStatVal, 0}); %%未达到指定次数, 发送为0, 接收为1 SameCount < Threshold -> %%计数加1, 再次检测 Recurse({NewStatVal, SameCount + 1}); %%heartbeat超时 true -> %%对于发送检测超时, 向客户端发送heartbeat包 %%对于接收检测超时, 向父进程发送超时通知 %%由父进程触发tcp关闭等操作 case Handler() of %%接收检测超时 stop -> ok; %%发送检测超时 continue -> Recurse({NewStatVal, 0}) end; ...
收发检测的时候利用了inet模块的getstat,查看socket的统计信息
recv_oct: 查看socket上接收的字节数
send_oct: 查看socket上发送的字节数
inet详细见这里: http://www.erlang.org/doc/man/inet.html
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持开心学习网。