一锅端，RabbitMQ五种消息传输模型

Posted 2021-11-06 毛奇志

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了一锅端，RabbitMQ五种消息传输模型相关的知识，希望对你有一定的参考价值。

文章目录

一、前言
二、RabbitMQ 五种消息模型
三、Spring AMQP
四、面试金手指
五、尾声

一、前言

RabbitMQ使用AMQP协议，底层使用erlang语言编写，是网上资料很全，学习成本很低的消息队列。现在实现消息队列的有两种主流方式：AMQP、JMS。

两者间的区别和联系：

定义：JMS是定义了统一的接口，来对消息操作进行统一；AMQP是通过规定协议来统一数据交互的格式。

限定语言与跨语言：JMS限定了必须使用Java语言；AMQP只是协议，不规定实现方式，因此是跨语言的。

两种消息传输模型和多个消息传输模型：JMS规定了两种消息模型，队列和发布/订阅模型；而AMQP的消息模型更加丰富。

举例子：ActiveMQ：基于JMS
RabbitMQ：基于AMQP协议，erlang语言开发，稳定性好
RocketMQ：基于JMS，前阿里巴巴产品，目前交由Apache基金会
Kafka：基于JMS，分布式消息系统，高吞吐量

总之，RabbitMQ是一款基于AMQP的消息管理系统，使用erlang语言开发，时延最小，既然是AMQP，就是跨语言的，Java是其中之一，也是跨平台：windows linux mac 都可以使用。

二、RabbitMQ 五种消息模型

RabbitMQ提供了6种消息模型，但是第6种其实是RPC，并不是MQ，因此不予学习。那么也就剩下5种。但是其实3、4、5这三种都属于订阅模型，只不过进行路由的方式不同。

我们通过一个demo工程来了解下RabbitMQ的工作方式，导入工程：

导入后：

依赖：

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
	xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
	<modelVersion>4.0.0</modelVersion>
	<groupId>cn.itcast.rabbitmq</groupId>
	<artifactId>itcast-rabbitmq</artifactId>
	<version>0.0.1-SNAPSHOT</version>
	<parent>
		<groupId>org.springframework.boot</groupId>
		<artifactId>spring-boot-starter-parent</artifactId>
		<version>2.0.2.RELEASE</version>
	</parent>
	<properties>
		<java.version>1.8</java.version>
	</properties>
	<dependencies>
		<dependency>
			<groupId>org.apache.commons</groupId>
			<artifactId>commons-lang3</artifactId>
			<version>3.3.2</version>
		</dependency>
		<dependency>
			<groupId>org.springframework.boot</groupId>
			<artifactId>spring-boot-starter-amqp</artifactId>
		</dependency>
		<dependency>
			<groupId>org.springframework.boot</groupId>
			<artifactId>spring-boot-starter-test</artifactId>
		</dependency>
	</dependencies>
</project>

我们抽取一个建立RabbitMQ连接的工具类，方便其他程序获取连接：

public class ConnectionUtil {
    /**
     * 建立与RabbitMQ的连接
     * @return
     * @throws Exception
     */
    public static Connection getConnection() throws Exception {
        //定义连接工厂
        ConnectionFactory factory = new ConnectionFactory();
        //设置服务地址
        factory.setHost("192.168.56.101");
        //端口
        factory.setPort(5672);
        //设置账号信息，用户名、密码、vhost
        factory.setVirtualHost("/leyou");
        factory.setUsername("leyou");
        factory.setPassword("leyou");
        // 通过工程获取连接
        Connection connection = factory.newConnection();
        return connection;
    }
}

2.1 基本消息模型

在基本消息模型中，RabbitMQ是一个消息代理：它接受和转发消息。你可以把RabbitMQ想象成一个邮局，当你把邮件放在邮箱里时，你可以确定邮差先生最终会把邮件发送给你的收件人。在这个比喻中，RabbitMQ是邮政信箱、邮局和邮递员。RabbitMQ与邮局的主要区别是它不处理纸张，而是接受，存储和转发数据消息的二进制数据块，基本消息模型结构如下：

P（producer/ publisher）：生产者，一个发送消息的用户应用程序。
C（consumer）：消费者，消费和接收有类似的意思，消费者是一个主要用来等待接收消息的用户应用程序
队列（红色区域）：rabbitmq内部类似于邮箱的一个概念。虽然消息流经rabbitmq和你的应用程序，但是它们只能存储在队列中。队列只受主机的内存和磁盘限制，实质上是一个大的消息缓冲区。许多生产者可以发送消息到一个队列，许多消费者可以尝试从一个队列接收数据。

总之，生产者将消息发送到队列，消费者从队列中获取消息，队列是存储消息的缓冲区。

2.1.1 生产者发送消息

让我们实践一下基本消息模型，包括发送单个消息的生产者以及接收消息并将其打印出来的消费者。

我们将调用消息发布者（发送者）Send和消息消费者（接收者）Recv，发布者将连接到RabbitMQ，发送一条消息，然后退出，且看发送者代码：

public class Sender {

    private final static String QUEUE_NAME = "simple_queue";

    public static void main(String[] argv) throws Exception {
        // 第一，获取到连接以及mq通道
        Connection connection = ConnectionUtil.getConnection();
        // 第二，从连接中创建通道，这是完成大部分API的地方。
        Channel channel = connection.createChannel();

        // 第三，根据管道创建队列
        // 声明一个队列是幂等的 - 只有当它不存在时才会被创建
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);

        // 第四，新建消息内容，将消息内容放入消息队列，放入队列后，打印消息内容
        String message = "Hello World!";
        channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
        System.out.println(" [x] Sent '" + message + "'");

        // 第五，最后，关闭通道和连接
        channel.close();
        connection.close();
    }
}

控制台，

2.1.2 管理工具中查看消息

进入队列页面，可以看到新建了一个队列：simple_queue

点击队列名称，进入详情页，可以查看消息：

在控制台查看消息并不会将消息消费，所以消息还在。

2.1.3 消费者获取消息

public class Recv {
    private final static String QUEUE_NAME = "simple_queue";

    public static void main(String[] argv) throws Exception {
        // 第一，获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 第二，创建通道
        Channel channel = connection.createChannel();
        // 第三，声明队列，和生产者创建的队列同名
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        // 第四，定义队列的消费者
        DefaultConsumer consumer = new DefaultConsumer(channel) {
            // 第五，消息监听，获取消息，并且处理，这个方法类似事件监听，如果有消息的时候，会被自动调用
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
                    byte[] body) throws IOException {
                // body 即消息体
                String msg = new String(body);
                System.out.println(" [x] received : " + msg + "!");
            }
        };
        // 监听队列，第二个参数：是否自动进行消息确认。
        channel.basicConsume(QUEUE_NAME, true, consumer);
    }
}

控制台：

这个时候，队列中的消息就没了：

我们发现，消费者已经获取了消息，但是程序没有停止，一直在监听队列中是否有新的消息。一旦有新的消息进入队列，就会立即打印.

2.1.4 消息确认机制

消息确认机制包括两种，消息被接收就ACK和消息被消费才ACK。

通过刚才的案例可以看出，消息一旦被消费者接收，队列中的消息就会被删除。那么问题来了：RabbitMQ怎么知道消息被接收了呢？如果消费者领取消息后，还没执行操作就挂掉了呢？或者抛出了异常？消息消费失败，但是RabbitMQ无从得知，这样消息就丢失了！因此，RabbitMQ有一个ACK机制。当消费者获取消息后，会向RabbitMQ发送回执ACK，告知消息已经被接收。不过这种回执ACK分两种情况：
1、自动ACK：消息一旦被接收，消费者自动发送ACK
2、手动ACK：消息接收后，不会发送ACK，需要手动调用

哪种更好呢？这需要看消息的重要性：
1、如果消息不太重要，丢失也没有影响，那么自动ACK会比较方便
2、如果消息非常重要，不容丢失。那么最好在消费完成后手动ACK，否则接收消息后就自动ACK，RabbitMQ就会把消息从队列中删除。如果此时消费者宕机，那么消息就丢失了。

我们之前的测试都是自动ACK的，如果要手动ACK，需要改动我们的代码：

public class Recv2 {
    private final static String QUEUE_NAME = "simple_queue";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 创建通道
        final Channel channel = connection.createChannel();
        // 声明队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        // 定义队列的消费者
        DefaultConsumer consumer = new DefaultConsumer(channel) {
            // 获取消息，并且处理，这个方法类似事件监听，如果有消息的时候，会被自动调用
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
                    byte[] body) throws IOException {
                // body 即消息体
                String msg = new String(body);
                System.out.println(" [x] received : " + msg + "!");
                // 手动进行ACK
                channel.basicAck(envelope.getDeliveryTag(), false);
            }
        };
        // 监听队列，第二个参数false，手动进行ACK
        channel.basicConsume(QUEUE_NAME, false, consumer);
    }
}

注意到最后一行代码：

channel.basicConsume(QUEUE_NAME, false, consumer);

如果第二个参数为true，则会自动进行ACK；如果为false，则需要手动ACK。方法的声明：

2.1.4.1 自动ACK存在的问题

修改消费者，添加异常，如下：

生产者不做任何修改，直接运行，消息发送成功：

运行消费者，程序抛出异常。但是消息依然被消费：

管理界面：

2.1.4.2 手动ACK

修改消费者，把自动改成手动（去掉之前制造的异常）

生产者不变，再次运行：

运行消费者

但是，查看管理界面，发现：

停掉消费者的程序，发现：

这是因为虽然我们设置了手动ACK，但是代码中并没有进行消息确认！所以消息并未被真正消费掉。
当我们关掉这个消费者，消息的状态再次称为Ready，修改代码手动ACK：

执行：

消息消费成功！

2.2 工作者消息模型

在上面，我们编写了一个程序，从一个命名队列中发送并接受消息。在这里，我们将创建一个工作队列，在多个工作者之间分配耗时任务。工作队列，又称任务队列。主要思想就是避免执行资源密集型任务时，必须等待它执行完成。相反我们稍后完成任务，我们将任务task封装为消息message并将其发送到消息队列。在后台运行的工作进程将获取任务并最终执行作业。当你运行许多工人时，任务将在他们之间共享，但是一个消息只能被一个消费者获取。这个概念在Web应用程序中特别有用，因为在短的HTTP请求窗口中无法处理复杂的任务。这种模式就是消费者工作队列模式，如下：

接下来我们来模拟这个流程：
P：生产者：任务的发布者
C1：消费者，领取任务并且完成任务，假设完成速度较快
C2：消费者2：领取任务并完成任务，假设完成速度慢

问题：避免消息堆积？
回答：1）采用workqueue，多个消费者监听同一队列。
2）接收到消息以后，通过线程池异步消费。

2.2.1 生产者

生产者与案例1中的几乎一样：

public class Send {
    private final static String QUEUE_NAME = "test_work_queue";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        // 声明队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        // 循环发布任务  之前的一个消息变成了多个消息
        for (int i = 0; i < 50; i++) {
            // 消息内容
            String message = "task .. " + i;
            channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
            System.out.println(" [x] Sent '" + message + "'");

            Thread.sleep(i * 2);
        }
        // 关闭通道和连接
        channel.close();
        connection.close();
    }
}

不过这里我们是循环发送50条消息。

2.2.2 消费者1处理任务比较慢

2.2.3 消费者2处理任务比较快

与消费者1基本类似，就是没有设置消费耗时时间。这里是模拟有些消费者快，有些比较慢。接下来，两个消费者一同启动，然后发送50条消息：

可以发现，两个消费者各自消费了25条消息，而且各不相同，这就实现了任务的分发。

2.2.4 工作者模式存在的问题

存在的问题：消费者1比消费者2的效率要低，一次任务的耗时较长，但是，两人最终消费的消息数量是一样的，导致，消费者2大量时间处于空闲状态，消费者1一直忙碌，即默认是将任务平均分配，正确的做法应该是消费越快的人，消费的越多，即如何实现能者多劳？

解决办法：设置channel，prefetchcount=k，当有k条消息，不再发送消息
可以使用basicQos方法和prefetchCount = 1设置。这告诉RabbitMQ一次不要向工作人员发送多于一条消息。或者换句话说，不要向工作人员发送新消息，直到它处理并确认了前一个消息。相反，它会将其分派给不是仍然忙碌的下一个工作人员。

再次测试（消费者1处理的比较慢，消费者2处理的比较快）：

如上，消费者1只处理3条消息，其他都被消费者2处理了。

2.3 RabbitMQ三种订阅模式

基础消费模式和工作者消费模式，都是一个消息只能被一个消费者消费就没了，但是订阅模式则是一个消费可以被订阅的n个消费者消费，即一个消息消费了n次，订阅模式包括三种：Fanout广播模式、Direct定向模式、Topic通配符模式，其相同点在于一个消息可以被多个订阅者消费。

基础消费模式和工作者消费模式背后的假设是：每个任务只被传递给一个工作人员。在这一部分，我们将做一些完全不同的事情 - 我们将会传递一个信息给多个消费者。这种模式被称为“发布/订阅”。
(1) 1个生产者，多个消费者，所以一个消息被多个消费者消息
(2) 每个队列都要绑定到交换机，每一个消费者都有自己的一个队列，所以一个消息被多个消费者消息;
(3) 生产者没有将消息直接发送到队列，而是发送到了交换机，消息经过交换机再到达队列，实现一个消息被多个消费者获取的目的

三种订阅者模式中，我们使用X(Exchanges)表示交换机。一方面接收生产者发送的消息，另一方面知道如何处理消息，例如递交给某个特别队列、递交给所有队列、或是将消息丢弃。到底如何操作，取决于Exchange的类型。Exchange类型有以下几种：
Fanout：广播，将消息交给所有绑定到交换机的队列
Direct：定向，把消息交给符合指定routing key 的队列
Topic：通配符，把消息交给符合routing pattern（路由模式）的队列

注意：Exchange（交换机）只负责转发消息，不具备存储消息的能力，因此如果没有任何队列与Exchange绑定，或者没有符合路由规则的队列，那么消息会丢失。

Fanout表示广播模式，一个消息发送给所有queue，发送给所有的consumer。

direct表示定向模式，一个消息发送给指定queue，发送给指定的consumer，即不同的消息被不同的队列消费。在Direct模型下，队列与交换机的绑定，不能是任意绑定了，而是要指定一个RoutingKey（路由key），消息的发送方在向Exchange发送消息时，也必须指定消息的routing key。

topic表示通配符模式，一个消息发送给指定queue，发送给匹配上通配符的consumer，即不同的消息被不同的队列消费。在Topic模型下，队列与交换机的绑定，不能是任意绑定了，而是要指定一个routing pattern（路由模式），消息的发送方在向Exchange发送消息时，也必须指定消息的routing pattern。

五种消息传输模型
(1) 共同点，都是生产者-消费者模式
(2) 基本消息模式和工作队列消息模式：一个消息只能被一个消费者消费（尽管工作队列消息模式有多个消费者，但是一个消费者只消费一个消费）（工作队列消息模式与基本消费模式：生产者生产50个消息给 2-n 个消费者用，生产者生产50个消息给一个消费者用）
(3) 发布/订阅模式：一个消息只能被多个订阅者消费（和前面两种不同点）
第一，三种相同点：都引入了exchange，一个消息只能被多个订阅者消费
第二，三种不同点：就是exchange匹配不同，订阅模式整体结构为“生产者-exchange-mq-消费者”，exchange完成消息在生产者与mq之间的三种匹配。

2.4 广播模式

Fanout即广播模式，Exchange（交换机）只负责转发消息，不具备存储消息的能力，因此如果没有任何队列与Exchange绑定，或者没有符合路由规则的队列，那么消息会丢失。

在Fanout广播模式下，消息发送流程是这样的：
1）可以有多个消费者
2）每个消费者有自己的queue（队列）
3）每个队列都要绑定到Exchange（交换机）
4）生产者发送的消息，只能发送到交换机，交换机来决定要发给哪个队列，生产者无法决定。
5） fanout核心（区别其他两种）：交换机把消息发送给绑定过的所有队列
6）队列的消费者都能拿到消息，实现一条消息被多个消费者消费。

Fanout广播模式中，每个发到 fanout 类型交换器的消息都会分到所有绑定的队列上去（很像子网广播，每台子网内的主机都获得了一份复制的消息）。fanout 类型转发消息是最快的。Fanout Exchange如下图所示：

上图表示，fanout类型下，交换器的所有的消息像广播一样分到所有绑定的队列上去，最后消费者从消息队列中取出消息用来消费。

2.4.1.生产者

生产者两个变化：

声明Exchange，不再声明Queue，即生产者直接发送消息到Exchange，不再发送到Queue；
指定类型为fanout。

public class Send {

    private final static String EXCHANGE_NAME = "fanout_exchange_test";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        
        // 声明exchange，指定类型为fanout
        channel.exchangeDeclare(EXCHANGE_NAME, "fanout");
        
        // 消息内容
        String message = "Hello everyone";
        // 发布消息到Exchange
        channel.basicPublish(EXCHANGE_NAME, "", null, message.getBytes());
        System.out.println(" [生产者] Sent '" + message + "'");

        channel.close();
        connection.close();
    }
}

2.4.2 消费者1

消费者代码中，需要新增一条绑定队列到交换机的逻辑，如下：

<以上是关于一锅端，RabbitMQ五种消息传输模型的主要内容，如果未能解决你的问题，请参考以下文章 
 RabbitMQ-安装及五种消息模型
 rabbitmq 五种消息模型
 SpringAMQP处理RabbitMQ的常用五种消息模型
 SpringCloud系列[MQ 篇] - 详述 RabbitMQ 五种模型的结构及具体实现
 RabbitMQ入门与五种工作模式
 rabbitmq详解