【课程24】RabbitM...概念.xmind60.2KB
【课程24】五种队列模式.xmind0.8MB
【课程24】消息确...rm).xmind84.4KB
【课程24】消息应...able.xmind44.6KB
【课程24】RabbitMq简介.xmind95.7KB
【课程二十四预习】...itMq.xmind0.7MB
讲解路线
rabbit简介 --> 安装及简单命令 --> 几种订阅模式 --> 简单例子 --> springboot集成rabbitMq --> 使用场景介绍
消息与消息队列
消息(Message)是指在应用间传送的数据。消息可以非常简单,比如只包含文本字符串,也可以更复杂,可能包含嵌入对象。
消息队列(Message Queue)是一种应用间的通信方式,消息发送后可以立即返回,由消息系统来确保消息的可靠传递。消息发布者只管把消息发布到 MQ 中而不用管谁来取,消息使用者只管从 MQ 中取消息而不管是谁发布的。这样发布者和使用者都不用知道对方的存在。
使用消息队列的情景例子
以常见的订单系统为例,用户点击【下单】按钮之后的业务逻辑可能包括:扣减库存、生成相应单据、发红包、发短信通知。在业务发展初期这些逻辑可能放在一起同步执行,随着业务的发展订单量增长,需要提升系统服务的性能,这时可以将一些不需要立即生效的操作拆分出来异步执行,比如发放红包、发短信通知等。这种场景下就可以用 MQ ,在下单的主流程(比如扣减库存、生成相应单据)完成之后发送一条消息到 MQ 让主流程快速完结,而由另外的单独线程拉取MQ的消息(或者由 MQ 推送消息),当发现 MQ 中有发红包或发短信之类的消息时,执行相应的业务逻辑。
应用场景
异步处理
应用解耦
流量削锋
日志处理
消息通讯
RabbitMq教程
AMQP
即Advanced Message Queuing Protocol,一个提供统一消息服务的应用层标准高级消息队列协议,是应用层协议的一个开放标准,为面向消息的中间件设计。基于此协议的客户端与消息中间件可传递消息,并不受客户端/中间件不同产品,不同的开发语言等条件的限制。Erlang中的实现有 RabbitMQ等。
RabbitMq维基百科
MQ全称为Message Queue, 消息队列(MQ)是一种应用程序对应用程序的通信方法。应用程序通过读写出入队列的消息(针对应用程序的数据)来通信,而无需专用连接来链接它们。消息传递指的是程序之间通过在消息中发送数据进行通信,而不是通过直接调用彼此来通信,直接调用通常是用于诸如远程过程调用的技术。排队指的是应用程序通过 队列来通信。队列的使用除去了接收和发送应用程序同时执行的要求。其中较为成熟的MQ产品有IBM WEBSPHERE MQ等等。
rabbitMq安装
第一步、Erlang语言环境安装
centos:
cd /opt
wget http://erlang.org/download/otp_src_20.2.tar.gz
tar -zxvf otp_src_20.2.tar.gz
mkdir /usr/local/erlang
cd otp_src_20.2
yum install gcc glibc-devel make ncurses-devel openssl-devel xmlto
./configure -prefix=/usr/local/erlang/ --without-javac
make && make install
vim /etc/profile
export ERL_HOME=/usr/local/erlang
export PATH=${ERL_HOME}/bin:$PATH
source /etc/profile
erl
第二步、RabbitMq安装
centos安装:先查看当前系统的版本信息:
所以安装版本:
第三步、启动RabbitMq
- 安装RabbitMQ 网页插件,在cmd控制面板中进入RabbitMQ 的安装目录下的rabbitmq_server-3.7.3sbin文件夹,(D:Program FilesRabbitMQServer
abbitmq_server-3.7.3sbin),输入: rabbitmq-plugins.bat enable rabbitmq_management
- 默认会提供一个默认用户guest,密码也是guest,线上环境需要创建一个新用户,并把guest用户删除。
- 默认账号密码:guest / guest,直接打开localhost:15672可以登录
第四步、添加用户和授权
- 开始新建用户:重新通过cmd控制面板中进入RabbitMQ 的安装目录下的rabbitmq_server-3.7.3sbin文件夹,(D:Program FilesRabbitMQServer
abbitmq_server-3.7.3sbin),开始新建用户,输入:rabbitmqctl.bat add_user username password,即可成功添加用户
- 授权管理员命令:rabbitmqctl.bat set_user_tags root administrator
- 授权命令: rabbitmqctl.bat set_permissions -p / root .* .* .*
- 停止/启动RabbitMQ服务(需要以管理员身份使用命令行): net stop RabbitMQ && net start RabbitMQ
RabbitMq命令大全
启动监控管理器:rabbitmq-plugins enable rabbitmq_management
关闭监控管理器:rabbitmq-plugins disable rabbitmq_management
启动rabbitmq:rabbitmq-service start
关闭rabbitmq:rabbitmq-service stop
查看所有的队列:rabbitmqctl list_queues
清除所有的队列:rabbitmqctl reset
关闭应用:rabbitmqctl stop_app
启动应用:rabbitmqctl start_app
用户和权限设置(后面用处)
添加用户:rabbitmqctl add_user username password
分配角色:rabbitmqctl set_user_tags username administrator
新增虚拟主机:rabbitmqctl add_vhost vhost_name
将新虚拟主机授权给新用户:rabbitmqctl set_permissions -p vhost_name username ‘.*‘ ‘.*‘ ‘.*‘
概念理解
1. Broker:简单来说就是消息队列服务器实体。
2. Exchange:消息交换机,它指定消息按什么规则,路由到哪个队列。
3. Queue:消息队列载体,每个消息都会被投入到一个或多个队列。
4. Binding:绑定,它的作用就是把exchange和queue按照路由规则绑定起来。
5. Routing Key:路由关键字,exchange根据这个关键字进行消息投递。
6. vhost:虚拟主机,一个broker里可以开设多个vhost,用作不同用户的权限分离。
7. producer:消息生产者,就是投递消息的程序。
8. consumer:消息消费者,就是接受消息的程序。
9. channel:消息通道,在客户端的每个连接里,可建立多个channel,每个channel代表一个会话任务。
五种队列模式
应答机制ack
持久化机制durable
- rabbitMq不允许一个已存在的队列重新定义持久化参数。
简单队列
简单队列的生产者和消费者关系一对一
项目代码:simpleQueue();
工作队列
一个生产者、2个消费者。
但MQ中一个消息只能被一个消费者获取。即消息要么被C1获取,要么被C2获取。这种模式适用于类似集群,能者多劳。性能好的可以安排多消费,性能低的可以安排低消费。
默认:轮询分发
其他:公平分发
- 消费者端添加代码:channel.basicQos(1);
项目代码:
发布订阅模式
这种模式可以满足消费者发布一个消息,多个消费者消费同一信息的需求。
广播给所有的接收者。
- 一个生产者,多个消费者
- 每个消费者都有自己的队列
- 生产者没有把消息发送到队列,而是发送到交换机exchange
- 每个队列都绑定到交换机
- 生产者发送的消息经过交换机,到达队列就能实现一个消息被多个消费者消费
- 声明交换机--fanout模式,把消息发送到交换机上,(注意:交换机没有存储信息功能,不能持久化消息,因此,如果交换机没有绑定队列,那么消息就丢失了)
路由模式Routing
路由模式是在订阅模式基础上的完善,可以在生产消息的时候,加入Key值,与key值匹配的消费者消费信息。
- 声明交换机--direct模式,把消息发送到交换机上,并指定routingKey,(注意:交换机没有存储信息功能,不能持久化消息,因此,如果交换机没有绑定队列,那么消息就丢失了)
- 把对列绑定到上交换机,并指定routingKey,多个就绑定多个routingKey
通配符模式--Topic模式
通配符模式是在路由模式的升级,他允许key模糊匹配。*代表一个词,#代表一个或多个词。通过通配符模式我们就可以将C1对应的一个key准确定为item.add。而C2我们就不需要一一写出key值,而是用item.#代替即可。
- 声明交换机--topic模式,把消息发送到交换机上,并指定routingKey(注意:交换机没有存储信息功能,不能持久化消息,因此,如果交换机没有绑定队列,那么消息就丢失了)
- 把对列绑定到上交换机,并指定routingKey(可以用*和#来进行模糊匹配)
RPC
(略)
代码参数详解
channel通道
channel.queueDeclare()
channel.basicQos()
channel.basicPublish()
channel.basicAck()
channel.basicConsume()
Exchange类型
消息应答ack
- boolean autoAck = true;(自动确认模式)
- 一旦 RabbitMQ 将消息分发给了消费者,就会从内存中删除。在这种情况下,如果杀死正在执行任务的消费者,会丢失正在处理的消息,也会丢失已经分发给这个消费者但尚未处理的消息。
- boolean autoAck = false; (手动确认模式)
- 我们不想丢失任何任务,如果有一个消费者挂掉了,那么我们应该将分发给它的任务交付给另一个消费者去处理。 为了确保消息不会丢失,RabbitMQ 支持消息应答。消费者发送一个消息应答,告诉 RabbitMQ 这个消息已经接收并且处理完毕了。RabbitMQ 可以删除它了。
- 消息应答是默认打开的。也就是 boolean autoAck =false;
消息持久化
boolean durable = true;
channel.queueDeclare("test_queue_work", durable, false, false, null);
生产者发送消息(exchange交换机模式)
Direct类型(路由模式)
将消息中的RoutingKey与该Exchange关联的所有Binding中的BindingKey进行比较,如果相等,则发送到该Binding对应的Queue中。
Fanout 类型(发布订阅模式)
则会将消息发送给所有与该 Exchange 定义过 Binding 的所有 Queues 中去,其实是一种广播行为
Topic类型(通配符模式)
则会按照正则表达式,对RoutingKey与BindingKey进行匹配,如果匹配成功,则发送到对应的Queue中
消息确认机制(事务+confirm)
在使用RabbitMQ的时候,我们可以通过消息持久化操作来解决因为服务器的异常奔溃导致的消息丢失,除此之外我们还会遇到一个问题,当消息的发布者在将消息发送出去之后,消息到底有没有正确到达broker代理服务器呢?如果不进行特殊配置的话,默认情况下发布操作是不会返回任何信息给生产者的,也就是默认情况下我们的生产者是不知道消息有没有正确到达broker的,如果在消息到达broker之前已经丢失的话,持久化操作也解决不了这个问题,因为消息根本就没到达代理服务器,你怎么进行持久化,那么这个问题该怎么解决呢?
RabbitMQ为我们提供了两种方式:
- (事务机制)通过AMQP事务机制实现,这也是AMQP协议层面提供的解决方案;
- (Confirm模式)通过将channel设置成confirm模式来实现;
1、AMQP事务机制
- txSelect:用户将当前channel设置成transaction模式
这里首先探讨下RabbitMQ事务机制。
RabbitMQ中与事务机制有关的方法有三个:txSelect(), txCommit()以及txRollback(), txSelect用于将当前channel设置成transaction模式,txCommit用于提交事务,txRollback用于回滚事务,在通过txSelect开启事务之后,我们便可以发布消息给broker代理服务器了,如果txCommit提交成功了,则消息一定到达了broker了,如果在txCommit执行之前broker异常崩溃或者由于其他原因抛出异常,这个时候我们便可以捕获异常通过txRollback回滚事务了。
事务机制的优缺点:
事务确实能够解决producer与broker之间消息确认的问题,只有消息成功被broker接受,事务提交才能成功,否则我们便可以在捕获异常进行事务回滚操作同时进行消息重发,但是使用事务机制的话会降低RabbitMQ的性能,那么有没有更好的方法既能保障producer知道消息已经正确送到,又能基本上不带来性能上的损失呢?从AMQP协议的层面看是没有更好的方法,但是RabbitMQ提供了一个更好的方案,即将channel信道设置成confirm模式。
2、Comfirm模式
生产者将信道设置成confirm模式,一旦信道进入confirm模式,所有在该信道上面发布的消息都会被指派一个唯一的ID(从1开始),一旦消息被投递到所有匹配的队列之后,broker就会发送一个确认给生产者(包含消息的唯一ID),这就使得生产者知道消息已经正确到达目的队列了,如果消息和队列是可持久化的,那么确认消息会将消息写入磁盘之后发出,broker回传给生产者的确认消息中deliver-tag域包含了确认消息的序列号,此外broker也可以设置basic.ack的multiple域,表示到这个序列号之前的所有消息都已经得到了处理。
confirm模式最大的好处在于他是异步的,一旦发布一条消息,生产者应用程序就可以在等信道返回确认的同时继续发送下一条消息,当消息最终得到确认之后,生产者应用便可以通过回调方法来处理该确认消息,如果RabbitMQ因为自身内部错误导致消息丢失,就会发送一条nack消息,生产者应用程序同样可以在回调方法中处理该nack消息。
在channel 被设置成 confirm 模式之后,所有被 publish 的后续消息都将被 confirm(即 ack) 或者被nack一次。但是没有对消息被 confirm 的快慢做任何保证,并且同一条消息不会既被 confirm又被nack 。
核心代码:
channel.confirmSelect();
1. 普通 confirm 模式:每发送一条消息后,调用 waitForConfirms()方法,等待服务器端
confirm。实际上是一种串行 confirm 了。
2. 批量 confirm 模式:每发送一批消息后,调用 waitForConfirms()方法,等待服务器端
confirm。
3. 异步 confirm 模式:提供一个回调方法,服务端 confirm 了一条或者多条消息后 Client 端会回
调这个方法
if(channel.waitForConfirms()) {
System.out.println("消息发送成功~~");
} else {
System.out.println("消息发送失败!!!");
}
当一个消费者向RabbitMQ注册后,RabbitMQ会用basic.deliver 方法向消费者推送消息,这个方法携带了一个 delivery tag, 它在一个channel中唯一代表了一次投递。delivery tag的唯一标识范围限于channel。
delivery tag是单调递增的正整数,客户端获取投递的方法用用dellivery tag作为一个参数
channel.addConfirmListener(new ConfirmListener() {
public void handleAck(long deliveryTag, boolean multiple) throws IOException {
System.out.println("正常回调--> deliveryTag-" + deliveryTag + " multiple-" + multiple);
}
public void handleNack(long deliveryTag, boolean multiple) throws IOException {
System.out.println("异常回调--> deliveryTag-" + deliveryTag + " multiple-" + multiple);
}
});
可以通过一下代码获取
long nextSeqNo = channel.getNextPublishSeqNo();
消费者订阅消息
通过basic.consume命令,订阅某一
6
通过basic.get命令主动获取队列中的消息,但是绝对不可以通过循环调用basic.get来代替basic.consume,这是因为basic.get RabbitMQ在实际执行的时候,是首先consume某一个队列,然后检索第一条消息,然后再取消订阅。如果是高吞吐率的消费者,最好还是建议使用basic.consume。
Springboot集成RabbitMq
第一步,导入坐标
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-amqp</artifactId>
</dependency>
第二步、配置rabbitmq的服务器信息
spring:
rabbitmq:
host: localhost
port: 5672
第三步,声明交换机,路由键、队列等信息,方便监听
import org.springframework.amqp.core.Binding;
import org.springframework.amqp.core.BindingBuilder;
import org.springframework.amqp.core.Queue;
import org.springframework.amqp.core.TopicExchange;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class RabbitConfig {
public final static String SPRING_BOOT_QUEUE = "spring-boot-queue-1";
public final static String SPRING_BOOT_EXCHANGE_queue = "spring-boot-topic-exchange-queue-1";
public final static String SPRING_BOOT_EXCHANGE = "spring-boot-topic-exchange-1";
public static final String SPRING_BOOT_BIND_KEY = "topic.message";
@Bean
public Queue helloQueue() {
return new Queue(SPRING_BOOT_QUEUE);
}
@Bean
public Queue exQueue() {
return new Queue(SPRING_BOOT_EXCHANGE_queue);
}
@Bean
TopicExchange exchange() {
return new TopicExchange(SPRING_BOOT_EXCHANGE);
}
@Bean
Binding bindingExchangeMessage(Queue exQueue, TopicExchange exchange) {
return BindingBuilder.bind(exQueue).to(exchange).with(SPRING_BOOT_BIND_KEY);
}
}
第四步、监听队列信息
@Component
@RabbitListener(queues = RabbitConfig.SPRING_BOOT_QUEUE)
public class HelloReceiver {
@RabbitHandler
public void process(String hello) {
System.out.println("You receiver a message : --> " + hello);
}
}
第五步、发送信息
@RestController
public class MqController {
@Autowired
private AmqpTemplate amqpTemplate;
@GetMapping("/send")
public void send () {
amqpTemplate.convertAndSend(RabbitConfig.SPRING_BOOT_QUEUE,"hello springboot rabbitmq");
amqpTemplate.convertAndSend(RabbitConfig.SPRING_BOOT_EXCHANGE, RabbitConfig.SPRING_BOOT_BIND_KEY, "hello springboot exchange message!!");
}
}