消息可靠性投递

Posted skystep

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了消息可靠性投递相关的知识,希望对你有一定的参考价值。

confirm 确认消息

消息确认机制是消息的可靠性投递的核心保障:

  • 消息的确认是指生产者投递消息后,如果 Broker 收到消息,则会给生产者一个应答;
  • 生产者接收应答用来确认这条消息是否正常发送到 Broker。

confirm 确认消息实现

添加依赖
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-amqp</artifactId>
</dependency>
开启确认消息机制
# 设置是否到达交换机
spring.rabbitmq.publisher-confirm-type=correlated
  • NONE 值是禁用发布确认模式,是默认值;
  • CORRELATED 值是发布消息成功交换机后触发回调方法;
  • SIMPLE 值有两种效果,其一效果和 CORRELATED 值一样会触发回调方法,其二在发布消息成功后使用 rabbitTemplate 调用 waitForConfirms 或 waitForConfirmsOrDie 方法等待 broker 节点返回发送结果。
设置 ConfirmCallback 回调通知

通过判断 ack 的值从而知道是否正常投递,cause 是对投递结果的说明,correlationData 是消息的时候设置的相关信息。

package com.skystep.rabbitmq.config.rabbitmq;

import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.core.MessageProperties;
import org.springframework.amqp.rabbit.connection.ConnectionFactory;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

import java.nio.charset.StandardCharsets;
import java.util.Objects;

@Configuration
@Slf4j
public class RabbitmqConfig 
    @Bean
    public RabbitTemplate creatRabbitTemplate(ConnectionFactory connectionFactory) 
        RabbitTemplate rabbitTemplate = new RabbitTemplate();
        //设置消息投递失败的策略,有两种策略:自动删除或返回到客户端。
        //我们既然要做可靠性,当然是设置为返回到客户端(true是返回客户端,false是自动删除)
        rabbitTemplate.setConnectionFactory(connectionFactory);
        rabbitTemplate.setMandatory(true);

        rabbitTemplate.setConfirmCallback((correlationData, ack, cause) -> 
            log.info("ConfirmCallback 相关数据:", correlationData.getId());
            if (ack) 
                log.info("ConfirmCallback 投递成功,确认情况:", ack);
                // 在这里可以标记消息发送成功等更多处理
             else 
                log.info("ConfirmCallback 投递失败,确认情况:, 原因:", ack, cause);
                // 获取没有确认的消息
                Message returnedMessage = correlationData.getReturnedMessage();
                // 如果没有消息说明客户端发送消息的时候CorrelationData中没有设置ReturnedMessage
                if (Objects.isNull(returnedMessage)) 
                    log.warn("ConfirmCallback 获取不到退回的消息:", correlationData.getId());
                    return;
                
                byte[] body = returnedMessage.getBody();
                if (Objects.nonNull(body)) 
                    String msg = new String(body, StandardCharsets.UTF_8);
                    log.info("ConfirmCallback 退回的消息:", msg);
                    // 在这里可以标记消息发送失败等更多处理
                 else 
                    log.warn("ConfirmCallback 获取不到退回的消息:", correlationData.getId());
                
            
        );

        return rabbitTemplate;
    


编写消息发送者

此处模拟往错误的交换机发送消息,broker 无法找到对应的交换机发送消息。

@GetMapping("/message/sender/confirm")
public String messageConfirm() 
    String msgId = UUID.randomUUID().toString();
    String msg = "confirm";
    CorrelationData correlationData = new CorrelationData(msgId);
    MessageProperties messageProperties = new MessageProperties();
    messageProperties.setMessageId(msgId);
    messageProperties.setCorrelationId(msgId);
    Message message = new Message(msg.getBytes(StandardCharsets.UTF_8), messageProperties);
    correlationData.setReturnedMessage(message);
    // 设置错误的交换机
    rabbitTemplate.convertAndSend("testDirectExchangeError", "testDirectRouting", message, correlationData);
    return "ok";

调用接口验证结果
2022-07-24 14:08:57.611  INFO 83652 --- [nectionFactory2] c.s.r.config.rabbitmq.RabbitmqConfig     : ConfirmCallback 相关数据:6b9b495c-afa8-4b2d-9ba4-09d77ed91d26
2022-07-24 14:08:57.612  INFO 83652 --- [nectionFactory2] c.s.r.config.rabbitmq.RabbitmqConfig     : ConfirmCallback 投递失败,确认情况:false, 原因:channel error; protocol method: #method<channel.close>(reply-code=404, reply-text=NOT_FOUND - no exchange 'testDirectExchangeError' in vhost '/', class-id=60, method-id=40)
2022-07-24 14:08:57.612  INFO 83652 --- [nectionFactory2] c.s.r.config.rabbitmq.RabbitmqConfig     : ConfirmCallback 退回的消息:confirm

return 回退消息

return 消息回退机制用于处理一些不可以路由的消息:

生产者通过交换机和路由键指定发送到对应的队列,然后消费者进行监听和处理。但是某些情况下,交换机和或者路由键错误,致使消息无法到达指定的队列。如果开启了消息回退监听,就可以监听这种不可到达的消息进行对应的处理。

添加依赖
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-amqp</artifactId>
</dependency>
开启回退消息机制
# 设置发送失败是否回退
spring.rabbitmq.publisher-returns=true
设置 ReturnCallback 回调通知
@Configuration
@Slf4j
public class RabbitmqConfig 
    @Bean
    public RabbitTemplate creatRabbitTemplate(ConnectionFactory connectionFactory) 
        RabbitTemplate rabbitTemplate = new RabbitTemplate();
        //设置消息投递失败的策略,有两种策略:自动删除或返回到客户端。
        //我们既然要做可靠性,当然是设置为返回到客户端(true是返回客户端,false是自动删除)
        rabbitTemplate.setConnectionFactory(connectionFactory);
        rabbitTemplate.setMandatory(true);

        rabbitTemplate.setReturnCallback((message, replyCode, replyText, exchange, routingKey) -> 
            MessageProperties messageProperties = message.getMessageProperties();
            String correlationId = messageProperties.getCorrelationId();
            String body = new String(message.getBody(), StandardCharsets.UTF_8);
            log.info("ReturnCallback 消息:,消息id;", body, correlationId);
            log.info("ReturnCallback 回应码:, 回应信息:, 交换机:, 路由键:", replyCode, replyText, exchange, routingKey);
            // 在这里可以标记消息发送失败等更多处理
        );

        return rabbitTemplate;
    

编写消息发送者

此处模拟往错误的路由键发送消息,broker 无法路由到对应的队列。

@GetMapping("/message/sender/return")
public String messageReturn() 
    String msg = "return";
    CorrelationData correlationData = new CorrelationData(UUID.randomUUID().toString());
    MessageProperties messageProperties = new MessageProperties();
    Message message = new Message(msg.getBytes(StandardCharsets.UTF_8), messageProperties);
    correlationData.setReturnedMessage(message);
    rabbitTemplate.convertAndSend("testDirectExchange", "testDirectRoutingError", msg, correlationData);
    return "ok";

调用接口验证结果
2022-07-24 20:53:36.876  INFO 80356 --- [nectionFactory3] c.s.r.config.rabbitmq.RabbitmqConfig     : ReturnCallback 消息:return,消息id;a9f2a580-ca3b-44ea-8b62-07a76ac2bfd0
2022-07-24 20:53:36.877  INFO 80356 --- [nectionFactory3] c.s.r.config.rabbitmq.RabbitmqConfig     : ReturnCallback 回应码:312, 回应信息:NO_ROUTE, 交换机:testDirectExchange, 路由键:testDirectRoutingError

可靠性投递方案

生产端消息可靠性传递是为了解决消息投递时丢失的问题,导致这种问题的原比较多,比如rabbitMQ 宕机,投递过程中交换机发生问题,路由键错误等。

消息落库方案

方案介绍

如图,该方案对消息进行落库处理,每次操作之后修改消息的状态。启动定时任务对消息库中的获取投递失败的消息,请求发送者重新投递消息。数据库中核心存储消息的唯一id,消息状态,重试次数,重试时间,主要的步骤如下:

  • step1: 发送消息前,存储消息至消息库;

  • step2: 发送消息至 MQ Broker;

  • step3: 生产者监听到MQ的确认消息;

  • step4: 如果 ack = true,更改数据库中消息的状态;

  • step5: 定时任务(定时去获取数据库中消息状态为投递中状态,并且重试时间小于当前时间的消息)

  • step6:如果重试次数不超过3次,消息的重试次数+1,更新重试时间为当前时间+指定超时时间

  • step7:如果重试次数超过3次,更新状态为投递失败,不能重试

方案缺点
  • 消息持久化数据库且涉及多从更新消息状态,大并发场景下,数据库可能成为瓶颈;
  • 引进了定时任务,在分布式架构下,需要支持分布式定时任务。

在需要保证消息投递 100% 可靠,消息并发不大的场景下,推荐使用。

以上是关于消息可靠性投递的主要内容,如果未能解决你的问题,请参考以下文章

消息队列专题(高级特性篇):RabbitMQ 如何保证消息的可靠性投递传输和消费

消息队列专题(高级特性篇):RabbitMQ 如何保证消息的可靠性投递传输和消费

消息可靠性投递

RabbitMQ生产方式和解决消息可靠性投递及其他问题

RabbitMQ 可靠投递

SpringBoot+RabbitMQ实现消息可靠性投递