zmq消息传输基本功能的实现传输模式

Posted zhibei

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了zmq消息传输基本功能的实现传输模式相关的知识,希望对你有一定的参考价值。

zmq的基本功能:

(1)将消息快速高效地发送给其他节点,这里的节点可以是线程、进程、或是其他计算机;

(2)zmq为应用程序提供了一套简单的套结字API,不用考虑实际使用的协议类型(进程内、进程间、TPC、或广播);

(3)当节点调动时,zmq会自动进行链接或者重连;

(4)无论是发送消息还是接收消息,zmq都会先将消息放入队列中,并保证进程不会因为内存溢出而崩溃,适时地将消息写入磁盘;

(5)zmq会处理套接字异常;

(6)所有的I/O操作都在后台进行;

(7)zmq不会产生死锁。

zmq的使用:

在链接两个节点时,其中一个需要使用zmq_bind(),另一个则使用zmq_connect()。通常来讲,使用zmq_bind()链接的节点称之为服务端,它有着一个较为固定的网络地址;使用zmq_connect()链接的节点称为客户端,其地址不固定。每当客户端使用zmq_connect()链接上述某个端点时,服务端就会自动创建链接。zmq没有对链接数量进行限制。此外,客户端节点也可以使用一个套接字同时建立多个链接。

发送和接收消息使用的是zmq_send()和zmq_recv()这两个函数。zmq套接字可以发送消息给多个端点(扇出模型),或从多个端点中接收消息(扇入模型)。所以,向套接字写入一个消息时可能会将消息发送给很多节点,相应的,套接字又会从所有已建立的链接中接收消息。zmq_recv()方法使用了公平队列的算法来决定接收哪个链接的消息。

调用zmq_send()方法时其实并没有真正将消息发送给套接字链接。消息会在一个内存队列中保存下来,并由后台的I/O线程异步地进行发送。如果不出意外情况,这一行为是非阻塞的。所以说,即便zmq_send()有返回值,并不能代表消息已经发送。已发送消息不能重复使用。

使用举例:

//
//  管道模式 - 结构收集器 设计2
//  添加发布-订阅消息流,用以向worker发送自杀信号
//
#include "zhelpers.h"
 
int main (void) 
{
    void *context = zmq_init (1);
 
    //  用于接收消息的套接字
    void *receiver = zmq_socket (context, ZMQ_PULL);
    zmq_bind (receiver, "tcp://*:5558");
 
    //  用以发送控制信息的套接字
    void *controller = zmq_socket (context, ZMQ_PUB);
    zmq_bind (controller, "tcp://*:5559");
 
    //  等待任务开始
    char *string = s_recv (receiver);
    free (string); 
    //  开始计时
    int64_t start_time = s_clock ();
 
    //  确认100个任务处理完毕
    int task_nbr;
    for (task_nbr = 0; task_nbr < 100; task_nbr++) {
        char *string = s_recv (receiver);
        free (string);
        if ((task_nbr / 10) * 10 == task_nbr)
            printf (":");
        else
            printf (".");
        fflush (stdout);
    }
    printf ("总执行时间: %d msec
", 
        (int) (s_clock () - start_time)); 
    //  发送自杀消息给worker
    s_send (controller, "KILL"); 
    //  结束
    sleep (1);              //  等待发送完毕 
    zmq_close (receiver);
    zmq_close (controller);
    zmq_term (context);
    return 0;
}

zmq发送和接收消息C++代码

///接收消息:
    zmq_msg_t message; // 创建消息结构    
    zmq_msg_init (&message); // 初始化空消息    
    zmq_recv (socket, &message, 0); // 接收消息    
    int size = zmq_msg_size (&message); // 计算消息的大小    
    char *string = malloc (size + 1); // 分配string为指向size + 1大小的heap空间,那个多出来的1字节是‘‘的空间    
    memcpy (string, zmq_msg_data (&message), size); // 通过zmq_msg_data(1)获得消息的data地址,拷贝到字符串中    
    zmq_msg_close (&message); // 释放或销毁消息    
    string [size] = 0; // 设置‘‘    
    return (string); 

///发送消息:
    int rc;    
    zmq_msg_t message; // 创建消息结构    
    zmq_msg_init_size (&message, strlen (string)); // 以字符串长度(不包括‘‘)初始化成消息    
    memcpy (zmq_msg_data (&message), string, strlen (string)); // 将字符串的内容(不包括‘‘)拷贝给消息    
    rc = zmq_send (socket, &message, 0); // 发送消息    
    assert (!rc);    
    zmq_msg_close (&message); // 释放和销毁消息    
    return (rc);   

socket types: zmq一共具有12种类型的socket,5种消息模式。

(1)请求/应答模式:ZMQ_REQ、ZMQ_REP、ZMQ_DEALER、ZMQ_ROUTER

(2)发布/订阅模式:ZMQ_PUB、ZMQ_SUB、ZMQ_XPUB、ZMQ_XSUB

(3)管道模式:ZMQ_PUSH、ZMQ_PULL

(4)本地模式:ZMQ_STREAM

请求/应答模式

ZMQ_REQ

一般用于客户端发送请求消息,此类型的socket必须严格遵循先发送後接收的顺序,如果发生异常或者当前没有可用的服务(连接),socket会阻塞,直到有可用的服务(新连接的到来),再把消息发送出去。REQ类型的socket不会丢弃信息

ZMQ_REP发送消息时会自动在消息顶部插入一个空帧。

特点总结:

(1)可兼容的socket types: ZMQ_REP, ZMQ_ROUTER

(2)数据传输:双向

(3)发送/接收模式:发送a接收a

(4)发送路由策略:Round-robin(循环队列)

(5)接收路由策略:Last peer

(6)进入mute状态后: 阻塞。

ZMQ_REP

一般用于服务端接收消息,此类型的socket必须严格遵循先接收後发送的顺序,从客户端接收请求消息使用了公平队列,回应客户端时,所有的reply都会被路由到最后下达请求的客户端。

如果发生异常或者当前没有可用的客户端链接,所有消息都会毫无提示的被丢弃,不会发生阻塞。

特点总结:

(1)可兼容的socket types:ZMQ_REQ,ZMQ_DEALER

(2)数据传输:双向

(3)发送/接收模式:接收a发送a

(4)发送路由策略:Last peer

(5)接收路由策略:Fair-queued(公平队列)

ZMQ_DEALER

DEALER是一种用于请求/答应模式的更高级的扩展Socket,它可以自由的收发消息,没有ZMQ_REP/ZMQ_REQ那样的限制。

对于每一个连接,接收消息也是使用了公平队列,发送使用了循环队列(RR)。

ZMQ_DEALERE受ZMQ_RCVHW和ZMQ_SHDHW两个阈值影响(可通过zmq_setsockopt函数设置),一旦发送或接收消息队列达到阈值,socket就会进入mute状态,此时对DEALER的任何xmq_send操作都会阻塞,直到mute状态结束。

如果当前没有有效的链接,zmq_send操作也会阻塞,直到有新的链接到来为止。

DEALER发生阻塞并不会丢弃消息

注意:如果zmq_DEALER连接到ZMQ_REP,每一个消息包必须包含一个空帧,然后再紧跟着数据包体。

特点总结:

(1)可兼容的Socket types:ZMQ_ROUTER, ZMQ_REP, ZMQ_DEALER

(2)数据传输:双向

(3)发送/接收模式:无限制

(4)发送路由策略:Round-robin(循环队列)

(5)接收路由策略:Faie-queued(公平队列)

(6)进入mute状态後:阻塞

ZMQ_ROUTER

ZMQ_ROUTER是一种用于请求/答应模式的更高级的扩展Socket,它可以自由的收发消息。

当ZMQ_ROUTER接收到消息时,会自动在消息顶部加入来源地址标识符,接收消息使用了公平队列。当发送消息时,ZMQ_ROUTER又会自动去掉这个标识符,并且根据这个标识符路由到相应的端点。

如果此地址标识的端点不存在,默认会毫无征兆的丢弃消息,除非将ZMQ_ROUTE_MANDATORY选项设置为1。

当队列达到阈值时,socket就会进入mute状态,此时所有后续发送到此Socket的消息都会被丢弃,直到mute状态结束。同样的,如果对端的接收队列达到了阈值,消息也会被丢弃。

如果ZMQ_REQ连接到ZMQ_ROUTER,从ZMQ_ROUTER接收到ZMQ_REQ消息时,除了会在消息前加上来源地址标识符之外,还会加上一个空帧与原消息分隔。因此消息可以包含多个地址标识符和多个数据包体。地址和数据体之间必须用空帧分割;发送回应消息给ZMQ_REQ时,必须至少包含一个空帧;发送消息时,ZMQ_ROUTER会根据第一个地址标识符路由到对应的端点。

特点总结:

(1)可兼容的Sockte types:ZMQ_DEALER, ZMQ_REQ, ZMQ_ROUTER

(2)数据传输:双向

(3)发送/接收模式:无限制

(4)接收路由策略:Fair-queued(公平队列)

(5)进入mute状态後:丢弃消息

发布/订阅模式

ZMQ_PUB

ZMQ_PUB类型的Socket以发布者的身份向订阅者分发消息,消息以扇出的形式发送给所有订阅者链接

ZMQ_PUB类型的Socket没有实现zmq_recv函数,所以不能对其调用zmq_recv函数!

当ZMQ_PUB Socket达到阈值时进入mute状态,此时后续发送的消息会被丢弃,直到mute状态结束

对ZMQ_PUB Socket调用zmq_send永远不会发生阻塞

特点总结:

(1)可兼容的Socket types: ZMQ_SUB, ZMQ_XSUB

(2)数据传输:单向

(3)发送/接收模式:只能发送

(4)接收路由策略:Fan out(扇出)

(5)进入mute状态後:丢弃消息

ZMQ_SUB

ZMQ_SUB类型的Socket以订阅者的身份接收消息。初始的ZMQ_SUB Socket没有订阅任何消息,可以通过设置ZMQ_SUBSRIBE选项来指定需要订阅的消息。

ZMQ_SUB Socket没有实现zmq_send函数,所以不能对其调用zmq_send函数!

特点总结:

(1)可兼容的Socket types: ZMQ_PUB, ZMQ_XPUB

(2)数据传输:单向

(3)发送/接收模式:只能接收

(4)接收路由策略:Fair-queued(公平队列)

Socket options(部分)

概要:通过zmq_setsockopt和zmq_getsocketopt函数来设置/读取指定选项

ZMQ_SNDHWM

设置指定Socket的发送消息队列在高水位标识(阈值),ZMQ会严格限制发送队列的上限数。0表示无限制。

如果达到了这个限制,socket就会进入异常状态,zmq此时会采取适当的措施——阻塞或丢弃消息,这取决于socket的类型。

Note: ZMQ不保证socket一定能接收ZMQ_SNDHWM这么多的消息,甚至可能会低60%-70%,这取决于socket上的信息流。

ZMQ_RCVHWM

设置指定Socket的接收消息队列的高水位标识(阈值),ZMQ会严格限制接收队列的上限数。0表示无限制。

如果达到了这个限制,socket就会进入异常状态,ZMQ此时会采取适当的措施——阻塞或丢弃消息,这取决于socket的类型

ZMQ_SUBSCRIBE

ZMQ_SUBSCRIBE选项会在ZMQ_SUB socket上建立一个消息过滤器。初始的ZMQ_SUB Socket会过滤掉所有的消息,因此必须设置这个选项,否则将收不到任何消息。

如果设置一个0长度的空值,ZMQ_SUB Socket会接受所有的消息。设置一个非空值将接受指定的消息。可以在同一个ZMQ_SUB Socket上设置多个过滤器,它将会接受至少一个匹配的消息。

ZMQ_UNSUBSCRIBE

此选项用来删除ZMQ_SUB Socket上通过ZMQ_SUBSCRIBE设置过的消息过滤器。如果Socket有多个实例有相同的过滤器,只删除其中一个。

ZMQ_IDENTITY

此选项用来设置Socket的身份标识,只能用于请求/答应模式。ROUTER Socket可以根据这个身份来标识路由信息。

身份标识的长度规定在1-255bytes, 由二进制零开头的标识符为ZMQ保留使用。

如果两个身份标识相同的Socket链接到同一个对端(ROUTER),结果行为是未定义的。

ZMQ_RECVTIMEO

设置Socket的receive操作的超时。如果为0,则zmq_recv会立即返回,如果没有接收到消息,会返回一个EAGAIN错误;如果为-1,Socket会阻塞到有可用消息为止;如果为其他值,Socket要么阻塞达到指定的时间还没接收到可用的消息,返回一个EAGAIN错误,要么在指定时间前接收到可用消息。

ZMQ_SENDTIMEO

设置Socket的Send操作的超时。如果为0,则zmq_send会立即返回,如果消息没有发送成功,会返回一个EAGAIN错误;如果为-1, Socket会抑制阻塞到消息发送完毕;

如果为其他值,Socket要么阻塞达到指定的时间还没发送完成,返回一个EAGAIN错误,要么在指定时间前发送完消息。

 

参考:https://www.kancloud.cn/wizardforcel/zmq-guide/146964

   https://www.cnblogs.com/dvwei/p/3608119.html

以上是关于zmq消息传输基本功能的实现传输模式的主要内容,如果未能解决你的问题,请参考以下文章

消息队列库——ZeroMQ

ZMQ JAVA使用经验之 ZMQ简介怎么解决

zeromq怎样获取已经绑定的socket节点

ZeroMQ使用学习记录(转)

zmq的pub/sub模式下inproc,ipc,tcp,epgm的通信性能测试结果以及分析(二)

ZMQ简单使用