RabbitMQ学习--发布确认高级

Posted 2021-08-29 三笠·阿卡曼

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了RabbitMQ学习--发布确认高级相关的知识，希望对你有一定的参考价值。

背景

在生产环境中由于一些不明原因，导致 rabbitmq 重启，在 RabbitMQ 重启期间生产者消息投递失败，导致消息丢失，需要手动处理和恢复。于是，我们开始思考，如何才能进行 RabbitMQ 的消息可靠投递呢？特别是在这样比较极端的情况，RabbitMQ 集群不可用的时候，无法投递的消息该如何处理呢:

应用 [xxx] 在 [08-1516:36:04] 发生 [ 错误日志异常 ] ， alertId=[xxx] 。由
[org.springframework.amqp.rabbit.listener.BlockingQueueConsumer:start:620] 触发。
应用 xxx 可能原因如下
服务名为：
异常为： org.springframework.amqp.rabbit.listener.BlockingQueueConsumer:start:620,
产生原因如下 :1.org.springframework.amqp.rabbit.listener.QueuesNotAvailableException:
Cannot prepare queue for listener. Either the queue doesn’t exist or the broker will not
allow us to use it.||Consumer received fatal=false exception on startup:

发布确认Springboot版本

确认机制方案

代码架构图

配置文件

在配置文件当中需要添加:

spring.rabbitmq.publisher-confirm-type=correlated

NONE
禁用发布确认模式，是默认值
CORRELATED
发布消息成功到交换器后会触发回调方法
SIMPLE
经测试有两种效果:
- 其一效果和 CORRELATED 值一样会触发回调方法，
- 其二在发布消息成功后使用 rabbitTemplate 调用 waitForConfirms 或 waitForConfirmsOrDie 方法
  等待 broker 节点返回发送结果，根据返回结果来判定下一步的逻辑，要注意的点是 waitForConfirmsOrDie 方法如果返回 false 则会关闭 channel，则接下来无法发送消息到 broker；

spring.rabbitmq.host=182.92.234.71
spring.rabbitmq.port=5672
spring.rabbitmq.username=admin
spring.rabbitmq.password=123
spring.rabbitmq.publisher-confirm-type=correlated

相关代码

添加配置类（定义交换机、队列以及绑定关系）

package com.vleus.rabbitmq.springbootrabbitmq.config;

import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

/**
 * @author vleus
 * @date 2021年07月28日 23:10
 * 配置类：发布确认（高级）
 */
@Configuration
public class ConfirmConfig {

    //定义交换机
    public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";

    //队列
    public static final String CONFIRM_QUEUE = "confirm.queue";

    //routingKey
    public static final String ROUTING_KEY = "key1";

    //声明交换机
    @Bean("confirmExchange")
    public DirectExchange confirmExchange() {
        return new DirectExchange(CONFIRM_EXCHANGE_NAME);
    }

    //声明交换机
    @Bean("confirmQueue")
    public Queue confirmQueue() {
        return QueueBuilder.durable(CONFIRM_QUEUE).build();
    }

    //绑定
    @Bean
    public Binding queueBindingExchange(@Qualifier("confirmQueue")Queue confirmQueue,
                                        @Qualifier("confirmExchange")DirectExchange confirmExchange) {
        return BindingBuilder.bind(confirmQueue).to(confirmExchange).with(ROUTING_KEY);
    }

}

生产者发送消息

package com.vleus.rabbitmq.springbootrabbitmq.controller;

import com.vleus.rabbitmq.springbootrabbitmq.config.ConfirmConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.connection.CorrelationData;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * @author vleus
 * @date 2021年07月28日 23:17
 * 开始发消息，测试确认
 */

@Slf4j
@RestController
@RequestMapping(("/confirm"))
public class ProducerController {

    @Autowired
    private RabbitTemplate rabbitTemplate;

    //发消息
    @GetMapping("/sendMessage/{message}")
    public void sendMessage(@PathVariable String message) {

        CorrelationData correlationData = new CorrelationData("1");
        rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,
                ConfirmConfig.ROUTING_KEY, message,correlationData);

        CorrelationData correlationData2 = new CorrelationData("2");
        rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,
                ConfirmConfig.ROUTING_KEY + "2", message,correlationData2);

        log.info("发送消息内容为: {}",message);
    }
}

消息回调接口（针对交换机失效场景）

package com.vleus.rabbitmq.springbootrabbitmq.config;

import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.connection.CorrelationData;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;

import javax.annotation.PostConstruct;

/**
 * @author vleus
 * @date 2021年07月28日 23:34
 */
@Slf4j
@Component
public class MyCallBack implements RabbitTemplate.ConfirmCallback {

    @Autowired
    private RabbitTemplate rabbitTemplate;

    @PostConstruct
    public void init() {
        //注入
        rabbitTemplate.setConfirmCallback(this);
    }

    /*
    交换机确认回调方法：
    1、发消息，交换机接收到了，回调：
        1.1 correlationData 保存回调消息的ID及相关信息;
        1.2 交换机收到消息 true
        1.3 cause null
    2、发消息 交换机接收消息失败了 回调
     2.1 correlationData 保存回调消息的ID及相关信息;
     2.2 交换机收到消息 false
     2.3 cause 引起交换机接收消息失败的原因
     */
    @Override
    public void confirm(CorrelationData correlationData, boolean ack, String cause) {

        String id = correlationData != null ? correlationData.getId() : "";
        if (ack) {
            log.info("交换机已经收到了消息,id为{}", id);
        } else {
            log.info("交换机已经收到了id为{}的消息,由于原因: {}", id, cause);
        }
    }
}

消息消费者

package com.vleus.rabbitmq.springbootrabbitmq.consumer;

import com.vleus.rabbitmq.springbootrabbitmq.config.ConfirmConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;

/**
 * @author vleus
 * @date 2021年07月28日 23:20
 */
@Slf4j
@Component
public class ConfirmConsumer {

    @RabbitListener(queues = ConfirmConfig.CONFIRM_QUEUE)
    public void receiveConfirmMessage(Message message) {

        log.info("接受到的队列confirm.queue消息: {}",new String(message.getBody()));
    }
}

结果分析

可以看到，发送了两条消息，第一条消息的 RoutingKey 为 “key1”，第二条消息的 RoutingKey 为"key2"，两条消息都成功被交换机接收，也收到了交换机的确认回调，但消费者只收到了一条消息，因为第二条消息的 RoutingKey 与队列的 BindingKey 不一致，也没有其它队列能接收这个消息，所有第二条消息被直接丢弃了。

回退消息

Mandatory参数

在仅开启了生产者确认机制的情况下，交换机接收到消息后，会直接给消息生产者发送确认消息，如果发现该消息不可路由，那么消息会被直接丢弃，此时生产者是不知道消息被丢弃这个事件的。那么如何让无法被路由的消息帮我想办法处理一下？最起码通知我一声，我好自己处理啊。通过设置 mandatory 参数可以在当消息传递过程中不可达目的地时将消息返回给生产者。

更改配置

spring.rabbitmq.host=192.168.37.139
spring.rabbitmq.port=5672
spring.rabbitmq.username=admin
spring.rabbitmq.password=123456
# 表示交换机进行消息确认
spring.rabbitmq.publisher-confirm-type=correlated
# 表示消息发送失败退回消息
spring.rabbitmq.publisher-returns=true

回调方法配置

package com.vleus.rabbitmq.springbootrabbitmq.config;

import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.core.ReturnedMessage;
import org.springframework.amqp.rabbit.connection.CorrelationData;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;

import javax.annotation.PostConstruct;

/**
 * @author vleus
 * @date 2021年07月28日 23:34
 */
@Slf4j
@Component
public class MyCallBack implements RabbitTemplate.ConfirmCallback,RabbitTemplate.ReturnsCallback {

    @Autowired
    private RabbitTemplate rabbitTemplate;

    @PostConstruct
    public void init() {
        //注入
        rabbitTemplate.setConfirmCallback(this);
        rabbitTemplate.setReturnsCallback(this);
    }

    /*
    交换机确认回调方法：
    1、发消息，交换机接收到了，回调：
        1.1 correlationData 保存回调消息的ID及相关信息;
        1.2 交换机收到消息 true
        1.3 cause null
    2、发消息 交换机接收消息失败了 回调
     2.1 correlationData 保存回调消息的ID及相关信息;
     2.2 交换机收到消息 false
     2.3 cause 引起交换机接收消息失败的原因
     */
    @Override
    public void confirm(CorrelationData correlationData, boolean ack, String cause) {

        String id = correlationData != null ? correlationData.getId() : "";
        if (ack) {
            log.info("交换机已经收到了消息,id为{}", id);
        } else {
            log.info("交换机已经收到了id为{}的消息,由于原因: {}", id, cause);
        }
    }

    //实现在当消息传递过程中不可达目的地时将消息返回给生产者
    //只有当消息不可达目的地的时候，进行回退
    @Override
    public void returnedMessage(ReturnedMessage returned) {
        Message message = returned.getMessage(); //消息
        String exchange = returned.getExchange(); //交换机
        String replyText = returned.getReplyText(); //
        String routingKey = returned.getRoutingKey(); //路由key
        log.error("消息{},被交换机{}退回,退回的原因为: {},路由key为: {}",
                new String(message.getBody()),exchange,replyText,routingKey);
    }
}

其余代码同上，
执行结果为：

备份交换机

有了 mandatory 参数和回退消息，我们获得了对无法投递消息的感知能力，有机会在生产者的消息无法被投递时发现并处理。但有时候，我们并不知道该如何处理这些无法路由的消息，最多打个日志，然后触发报警，再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法，特别是当生产者所在的服务有多台机器的时候，手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增加生产者的复杂性，需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息，又不想增加生产者的复杂性，该怎么做呢？前面在设置死信队列的文章中，我们提到，可以为队列设置死信交换机来存储那些处理失败的消息，可是这些不可路由消息根本没有机会进入到队列，因此无法使用死信队列来保存消息。在 RabbitMQ 中，有一种备份交换机的机制存在，可以很好的应对这个问题。什么是备份交换机呢？备份交换机可以理解为 RabbitMQ 中交换机的“备胎”，当我们为某一个交换机声明一个对应的备份交换机时，就是为它创建一个备胎，当交换机接收到一条不可路由消息时，将会把这条消息转发到备份交换机中，由备份交换机来进行转发和处理，通常备份交换机的类型为 Fanout ，这样就能把所有消息都投递到与其绑定的队列中，然后我们在备份交换机下绑定一个队列，这样所有那些原交换机无法被路由的消息，就会都进入这个队列了。当然，我们还可以建立一个报警队列，用独立的消费者来进行监测和报警。

代码架构图

增加的代码：

确认交换机（已设置）
备份交换机；
确认队列（已设置）；
备份队列与报警队列；
报警消费者；
确认交换机将回退的消息转发给备份交换机

修改配置类

package com.vleus.rabbitmq.springbootrabbitmq.config;

import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

/**
 * @author vleus
 * @date 2021年07月28日 23:10
 * 配置类：发布确认（高级）
 */
@Configuration
public class ConfirmConfig {

    //定义交换机
    public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";

    //队列
    public static final String CONFIRM_QUEUE = "confirm.queue";

    //routingKey
    public static final String ROUTING_KEY = "key1";

    //备份交换机
    public static final String BACKUP_EXCHANGE = "backup_exchange";

    //备份队列
    public static final String BACKUP_QUEUE = "backup_queue";

    //报警队列
    public static final String WARNING_QUEUE = "warning_queue";

    //声明交换机
    @Bean("confirmExchange")
    public DirectExchange confirmExchange() {
        return ExchangeBuilder.directExchange(CONFIRM_EXCHANGE_NAME).
                durable(true)
                .alternate(BACKUP_EXCHANGE). //转发给备份交换机
                build();
//        return new DirectExchange(CONFIRM_EXCHANGE_NAME);
    }

    //声明队列
    @Bean("confirmQueue")
    public Queue confirmQueue() {
        return QueueBuilder.durable(CONFIRM_QUEUE).build();
    }

    //绑定
    @Bean
    public Binding queueBindingExchange(@Qualifier("confirmQueue")Queue confirmQueue,
                                        @Qualifier("confirmExchange")DirectExchange confirmExchange) {
        return BindingBuilder.bind(confirmQueue).to(confirmExchange).with(ROUTING_KEY);
    }

    //备份交换机
    @Bean("backupExchange")
    public FanoutExchange backupExchange() {
        return new FanoutExchange(BACKUP_EXCHANGE);
    }

    //声明备份队列
    @Bean("backupQueue")
    public Queue backupQueue() {
        return QueueBuilder.durable(BACKUP_QUEUE).build();
    }

    //声明报警队列
    @Bean("warningQueue")
    public Queue warningQueue() {
        return QueueBuilder.durable(WARNING_QUEUE).build();
    }

    //备份队列与备份交换机绑定
    @Bean
    public Binding backupQueueBindingBackupExchange(@Qualifier("backupQueue")Queue backupQueue,
                                              @Qualifier("backupExchange")FanoutExchange backupExchange) {
        return BindingBuilder.bind(backupQueue).to(backupExchange);
    }

    //报警队列与备份交换机绑定
    @Bean
    public Binding warningQueueBindingBackupExchange(@Qualifier("warningQueue")Queue warningQueue,
                                              @Qualifier("backupExchange")FanoutExchange backupExchange) {
        return BindingBuilder.bind(warningQueue).to(backupExchange);
    }

}

增加报警队列的消费者

package com.vleus.rabbitmq.springbootrabbitmq.consumer;

import com.vleus.rabbitmq.springbootrabbitmq.config.ConfirmConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;

/**
 * @author vleus
 * @date 2021年07月29日 22:45
 */
@Slf4j
@Component
public class WarningConsumer {

    //接收报警消息
    @RabbitListener(queues = ConfirmConfig.WARNING_QUEUE)
    public void consumeWarningQueue(Message message) {
        String msg = new String(message.getBody());

        log.error("报警发现不可路由的消息: {}",msg);
    }
}

执行结果为

首先要删除确认交换机，重新生成，主要是更改了交换机的配置:

mandatory 参数与备份交换机可以一起使用的时候，如果两者同时开启，消息究竟何去何从？谁优先级高，经过上面结果显示答案是备份交换机优先级高。 当消息不可到达时，消息是会被转发到备份交换机的，就不会执行回调接口中的方法了

以上是关于RabbitMQ学习--发布确认高级的主要内容，如果未能解决你的问题，请参考以下文章