zmq消息传输基本功能的实现传输模式
Posted zhibei
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了zmq消息传输基本功能的实现传输模式相关的知识,希望对你有一定的参考价值。
zmq的基本功能:
(1)将消息快速高效地发送给其他节点,这里的节点可以是线程、进程、或是其他计算机;
(2)zmq为应用程序提供了一套简单的套结字API,不用考虑实际使用的协议类型(进程内、进程间、TPC、或广播);
(3)当节点调动时,zmq会自动进行链接或者重连;
(4)无论是发送消息还是接收消息,zmq都会先将消息放入队列中,并保证进程不会因为内存溢出而崩溃,适时地将消息写入磁盘;
(5)zmq会处理套接字异常;
(6)所有的I/O操作都在后台进行;
(7)zmq不会产生死锁。
zmq的使用:
在链接两个节点时,其中一个需要使用zmq_bind(),另一个则使用zmq_connect()。通常来讲,使用zmq_bind()链接的节点称之为服务端,它有着一个较为固定的网络地址;使用zmq_connect()链接的节点称为客户端,其地址不固定。每当客户端使用zmq_connect()链接上述某个端点时,服务端就会自动创建链接。zmq没有对链接数量进行限制。此外,客户端节点也可以使用一个套接字同时建立多个链接。
发送和接收消息使用的是zmq_send()和zmq_recv()这两个函数。zmq套接字可以发送消息给多个端点(扇出模型),或从多个端点中接收消息(扇入模型)。所以,向套接字写入一个消息时可能会将消息发送给很多节点,相应的,套接字又会从所有已建立的链接中接收消息。zmq_recv()方法使用了公平队列的算法来决定接收哪个链接的消息。
调用zmq_send()方法时其实并没有真正将消息发送给套接字链接。消息会在一个内存队列中保存下来,并由后台的I/O线程异步地进行发送。如果不出意外情况,这一行为是非阻塞的。所以说,即便zmq_send()有返回值,并不能代表消息已经发送。已发送消息不能重复使用。
使用举例:
// // 管道模式 - 结构收集器 设计2 // 添加发布-订阅消息流,用以向worker发送自杀信号 // #include "zhelpers.h" int main (void) { void *context = zmq_init (1); // 用于接收消息的套接字 void *receiver = zmq_socket (context, ZMQ_PULL); zmq_bind (receiver, "tcp://*:5558"); // 用以发送控制信息的套接字 void *controller = zmq_socket (context, ZMQ_PUB); zmq_bind (controller, "tcp://*:5559"); // 等待任务开始 char *string = s_recv (receiver); free (string); // 开始计时 int64_t start_time = s_clock (); // 确认100个任务处理完毕 int task_nbr; for (task_nbr = 0; task_nbr < 100; task_nbr++) { char *string = s_recv (receiver); free (string); if ((task_nbr / 10) * 10 == task_nbr) printf (":"); else printf ("."); fflush (stdout); } printf ("总执行时间: %d msec ", (int) (s_clock () - start_time)); // 发送自杀消息给worker s_send (controller, "KILL"); // 结束 sleep (1); // 等待发送完毕 zmq_close (receiver); zmq_close (controller); zmq_term (context); return 0; }
zmq发送和接收消息C++代码
///接收消息: zmq_msg_t message; // 创建消息结构 zmq_msg_init (&message); // 初始化空消息 zmq_recv (socket, &message, 0); // 接收消息 int size = zmq_msg_size (&message); // 计算消息的大小 char *string = malloc (size + 1); // 分配string为指向size + 1大小的heap空间,那个多出来的1字节是‘ ‘的空间 memcpy (string, zmq_msg_data (&message), size); // 通过zmq_msg_data(1)获得消息的data地址,拷贝到字符串中 zmq_msg_close (&message); // 释放或销毁消息 string [size] = 0; // 设置‘ ‘ return (string); ///发送消息: int rc; zmq_msg_t message; // 创建消息结构 zmq_msg_init_size (&message, strlen (string)); // 以字符串长度(不包括‘ ‘)初始化成消息 memcpy (zmq_msg_data (&message), string, strlen (string)); // 将字符串的内容(不包括‘ ‘)拷贝给消息 rc = zmq_send (socket, &message, 0); // 发送消息 assert (!rc); zmq_msg_close (&message); // 释放和销毁消息 return (rc);
socket types: zmq一共具有12种类型的socket,5种消息模式。
(1)请求/应答模式:ZMQ_REQ、ZMQ_REP、ZMQ_DEALER、ZMQ_ROUTER
(2)发布/订阅模式:ZMQ_PUB、ZMQ_SUB、ZMQ_XPUB、ZMQ_XSUB
(3)管道模式:ZMQ_PUSH、ZMQ_PULL
(4)本地模式:ZMQ_STREAM
请求/应答模式
ZMQ_REQ
一般用于客户端发送请求消息,此类型的socket必须严格遵循先发送後接收的顺序,如果发生异常或者当前没有可用的服务(连接),socket会阻塞,直到有可用的服务(新连接的到来),再把消息发送出去。REQ类型的socket不会丢弃信息。
ZMQ_REP发送消息时会自动在消息顶部插入一个空帧。
特点总结:
(1)可兼容的socket types: ZMQ_REP, ZMQ_ROUTER
(2)数据传输:双向
(3)发送/接收模式:发送a接收a
(4)发送路由策略:Round-robin(循环队列)
(5)接收路由策略:Last peer
(6)进入mute状态后: 阻塞。
ZMQ_REP
一般用于服务端接收消息,此类型的socket必须严格遵循先接收後发送的顺序,从客户端接收请求消息使用了公平队列,回应客户端时,所有的reply都会被路由到最后下达请求的客户端。
如果发生异常或者当前没有可用的客户端链接,所有消息都会毫无提示的被丢弃,不会发生阻塞。
特点总结:
(1)可兼容的socket types:ZMQ_REQ,ZMQ_DEALER
(2)数据传输:双向
(3)发送/接收模式:接收a发送a
(4)发送路由策略:Last peer
(5)接收路由策略:Fair-queued(公平队列)
ZMQ_DEALER
DEALER是一种用于请求/答应模式的更高级的扩展Socket,它可以自由的收发消息,没有ZMQ_REP/ZMQ_REQ那样的限制。
对于每一个连接,接收消息也是使用了公平队列,发送使用了循环队列(RR)。
ZMQ_DEALERE受ZMQ_RCVHW和ZMQ_SHDHW两个阈值影响(可通过zmq_setsockopt函数设置),一旦发送或接收消息队列达到阈值,socket就会进入mute状态,此时对DEALER的任何xmq_send操作都会阻塞,直到mute状态结束。
如果当前没有有效的链接,zmq_send操作也会阻塞,直到有新的链接到来为止。
DEALER发生阻塞并不会丢弃消息
注意:如果zmq_DEALER连接到ZMQ_REP,每一个消息包必须包含一个空帧,然后再紧跟着数据包体。
特点总结:
(1)可兼容的Socket types:ZMQ_ROUTER, ZMQ_REP, ZMQ_DEALER
(2)数据传输:双向
(3)发送/接收模式:无限制
(4)发送路由策略:Round-robin(循环队列)
(5)接收路由策略:Faie-queued(公平队列)
(6)进入mute状态後:阻塞
ZMQ_ROUTER
ZMQ_ROUTER是一种用于请求/答应模式的更高级的扩展Socket,它可以自由的收发消息。
当ZMQ_ROUTER接收到消息时,会自动在消息顶部加入来源地址标识符,接收消息使用了公平队列。当发送消息时,ZMQ_ROUTER又会自动去掉这个标识符,并且根据这个标识符路由到相应的端点。
如果此地址标识的端点不存在,默认会毫无征兆的丢弃消息,除非将ZMQ_ROUTE_MANDATORY选项设置为1。
当队列达到阈值时,socket就会进入mute状态,此时所有后续发送到此Socket的消息都会被丢弃,直到mute状态结束。同样的,如果对端的接收队列达到了阈值,消息也会被丢弃。
如果ZMQ_REQ连接到ZMQ_ROUTER,从ZMQ_ROUTER接收到ZMQ_REQ消息时,除了会在消息前加上来源地址标识符之外,还会加上一个空帧与原消息分隔。因此消息可以包含多个地址标识符和多个数据包体。地址和数据体之间必须用空帧分割;发送回应消息给ZMQ_REQ时,必须至少包含一个空帧;发送消息时,ZMQ_ROUTER会根据第一个地址标识符路由到对应的端点。
特点总结:
(1)可兼容的Sockte types:ZMQ_DEALER, ZMQ_REQ, ZMQ_ROUTER
(2)数据传输:双向
(3)发送/接收模式:无限制
(4)接收路由策略:Fair-queued(公平队列)
(5)进入mute状态後:丢弃消息
发布/订阅模式
ZMQ_PUB
ZMQ_PUB类型的Socket以发布者的身份向订阅者分发消息,消息以扇出的形式发送给所有订阅者链接。
ZMQ_PUB类型的Socket没有实现zmq_recv函数,所以不能对其调用zmq_recv函数!
当ZMQ_PUB Socket达到阈值时进入mute状态,此时后续发送的消息会被丢弃,直到mute状态结束。
对ZMQ_PUB Socket调用zmq_send永远不会发生阻塞。
特点总结:
(1)可兼容的Socket types: ZMQ_SUB, ZMQ_XSUB
(2)数据传输:单向
(3)发送/接收模式:只能发送
(4)接收路由策略:Fan out(扇出)
(5)进入mute状态後:丢弃消息
ZMQ_SUB
ZMQ_SUB类型的Socket以订阅者的身份接收消息。初始的ZMQ_SUB Socket没有订阅任何消息,可以通过设置ZMQ_SUBSRIBE选项来指定需要订阅的消息。
ZMQ_SUB Socket没有实现zmq_send函数,所以不能对其调用zmq_send函数!
特点总结:
(1)可兼容的Socket types: ZMQ_PUB, ZMQ_XPUB
(2)数据传输:单向
(3)发送/接收模式:只能接收
(4)接收路由策略:Fair-queued(公平队列)
Socket options(部分)
概要:通过zmq_setsockopt和zmq_getsocketopt函数来设置/读取指定选项
ZMQ_SNDHWM
设置指定Socket的发送消息队列在高水位标识(阈值),ZMQ会严格限制发送队列的上限数。0表示无限制。
如果达到了这个限制,socket就会进入异常状态,zmq此时会采取适当的措施——阻塞或丢弃消息,这取决于socket的类型。
Note: ZMQ不保证socket一定能接收ZMQ_SNDHWM这么多的消息,甚至可能会低60%-70%,这取决于socket上的信息流。
ZMQ_RCVHWM
设置指定Socket的接收消息队列的高水位标识(阈值),ZMQ会严格限制接收队列的上限数。0表示无限制。
如果达到了这个限制,socket就会进入异常状态,ZMQ此时会采取适当的措施——阻塞或丢弃消息,这取决于socket的类型
ZMQ_SUBSCRIBE
ZMQ_SUBSCRIBE选项会在ZMQ_SUB socket上建立一个消息过滤器。初始的ZMQ_SUB Socket会过滤掉所有的消息,因此必须设置这个选项,否则将收不到任何消息。
如果设置一个0长度的空值,ZMQ_SUB Socket会接受所有的消息。设置一个非空值将接受指定的消息。可以在同一个ZMQ_SUB Socket上设置多个过滤器,它将会接受至少一个匹配的消息。
ZMQ_UNSUBSCRIBE
此选项用来删除ZMQ_SUB Socket上通过ZMQ_SUBSCRIBE设置过的消息过滤器。如果Socket有多个实例有相同的过滤器,只删除其中一个。
ZMQ_IDENTITY
此选项用来设置Socket的身份标识,只能用于请求/答应模式。ROUTER Socket可以根据这个身份来标识路由信息。
身份标识的长度规定在1-255bytes, 由二进制零开头的标识符为ZMQ保留使用。
如果两个身份标识相同的Socket链接到同一个对端(ROUTER),结果行为是未定义的。
ZMQ_RECVTIMEO
设置Socket的receive操作的超时。如果为0,则zmq_recv会立即返回,如果没有接收到消息,会返回一个EAGAIN错误;如果为-1,Socket会阻塞到有可用消息为止;如果为其他值,Socket要么阻塞达到指定的时间还没接收到可用的消息,返回一个EAGAIN错误,要么在指定时间前接收到可用消息。
ZMQ_SENDTIMEO
设置Socket的Send操作的超时。如果为0,则zmq_send会立即返回,如果消息没有发送成功,会返回一个EAGAIN错误;如果为-1, Socket会抑制阻塞到消息发送完毕;
如果为其他值,Socket要么阻塞达到指定的时间还没发送完成,返回一个EAGAIN错误,要么在指定时间前发送完消息。
参考:https://www.kancloud.cn/wizardforcel/zmq-guide/146964
https://www.cnblogs.com/dvwei/p/3608119.html
以上是关于zmq消息传输基本功能的实现传输模式的主要内容,如果未能解决你的问题,请参考以下文章