程序员之消息队列
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了程序员之消息队列相关的知识,希望对你有一定的参考价值。
一、什么是消息队列
MQ (Message Quene) : 翻译为 消息队列 ,通过典型的 ?产者 和 消费者 模型,?产者不断向消息队列中?产消息,消费者不断的从队列中获取消息。因为消息的?产和消费都是异步的,?且只关?消息的发送和接收,没有业务逻辑的侵?,轻松的实现系统间解耦。别名为 消息中间件 通过利??效可靠的消息传递机制进?平台?关的数据交流,并基于数据通信来进?分布式系统的集成。
二、为什么要使用MQ
1.解耦
现在我有一个系统A,系统A可以产生一个userId,然后,现在有系统B和系统C都需要这个userId去做相关的操作,可以写成如下操作
如果有一天,系统B的负责人告诉系统A的负责人,现在系统B的SystemBNeed2do(String userId)这个接口不再使用了,让系统A别去调它了。那么就需要从代码的基础上去修改了。这样紧密的耦合关系会导致很多麻烦,如果使用消息中间件就不会出现以上问题。
2.异步
我们再来看看下面这种情况:系统A还是直接调用系统B、C、D
假设系统A运算出userId具体的值需要50ms,调用系统B的接口需要300ms,调用系统C的接口需要300ms,调用系统D的接口需要300ms。那么这次请求就需要50+300+300+300=950ms
并且我们得知,系统A做的是主要的业务,而系统B、C、D是非主要的业务。比如系统A处理的是订单下单,而系统B是订单下单成功了,那发送一条短信告诉具体的用户此订单已成功,而系统C和系统D也是处理一些小事而已。
那么此时,为了提高用户体验和吞吐量,其实可以异步地调用系统B、C、D的接口。所以,我们可以弄成是这样的:
系统A执行完了以后,将userId写到消息队列中,然后就直接返回了(至于其他的操作,则异步处理)。
本来整个请求需要用950ms(同步)
现在将调用其他系统接口异步化,只需要100ms(异步)
3、削峰/限流
假设现在我们每个月要搞一次大促,大促期间的并发可能会很高的,比如每秒3000个请求。假设我们现在有两台机器处理请求,并且每台机器只能每次处理1000个请求。
那多出来的1000个请求,可能就把我们整个系统给搞崩了...所以,有一种办法,我们可以写到消息队列中:
系统B和系统C根据自己的能够处理的请求数去消息队列中拿数据,这样即便有每秒有8000个请求,那只是把请求放在消息队列中,去拿消息队列的消息由系统自己去控制,这样就不会把整个系统给搞崩。
三、常用的消息中间件
当今市?上有很多主流的消息中间件,如?牌的 ActiveMQ 、 RabbitMQ ,炙?可热的Kafka ,阿?巴巴?主开发 RocketMQ 等。
#1.ActiveMQ
ActiveMQ 是Apache出品,最流?的,能?强劲的开源消息总线。它是?个完全?持JMS规范的的消息中间件。丰富的API,多种集群架构模式让ActiveMQ在业界成为?牌的消息中间件,在中?型企业颇受欢迎!
2.Kafka
Kafka是LinkedIn开源的分布式发布-订阅消息系统,?前归属于Apache顶级项?。Kafka主要特点是基于Pull的模式来处理消息消费,追求?吞吐量,?开始的?的就是?于?志收集和传输。0.8版本开始?持复制,不?持事务,对消息的重复、丢失、错误没有严格要求,适合产??量数据的互联?服务的数据收集业务。
3.RocketMQ
RocketMQ是阿?开源的消息中间件,它是纯Java开发,具有?吞吐量、?可?性、适合?规模分
布式系统应?的特点。RocketMQ思路起源于Kafka,但并不是Kafka的?个Copy,它
对消息的可靠传输及事务性做了优化,?前在阿?集团被?泛应?于交易、充值、流计算、消
息推送、?志流式处理、binglog分发等场景。
4.RabbitMQ
RabbitMQ?Kafka可靠,Kafka更适合IO?吞吐的处理,?般应?在?数据?志处理或对实时性(少量延迟),可靠性(少量丢数据)要求稍低的场景使?,?如ELK?志收集。
四、RabbitMQ
基于 AMQP 协议,erlang语?开发,是部署最?泛的开源消息中间件,是最受欢迎的开源消息中间件之?。
官? : https://www.rabbitmq.com/
官?教程 : https://www.rabbitmq.com/#getstarted
1.AMQP 协议
AMQP(advanced message queuingprotocol)`在2003年时被提出,最早?于解决?融领不同平台之间的消息传递交互问题。顾名思义,AMQP是?种协议,更准确的说是?种binary wire-level protocol(链接协议)。这是其和JMS的本质差别,AMQP不从API层进?限定,?是直接定义?
络交换的数据格式。这使得实现了AMQP的provider天然性就是跨平台的。以下是AMQP协议模型:
2.RabbitMQ 的安装
下载地址:https://www.rabbitmq.com/download.html
注意:处理要下载rabbitmq的按转包外还要下载ellong环境
3.安装步骤
先安装安装Erlang,再安装rabbitmq.exe,直接下一步,傻瓜式安装,安装完成点击开始会出现这里会出现启动、停止、重新安装等
1.点击
2.输入命令:
rabbitmq-plugins enable rabbitmq_management
3.打开浏览器控制台
http://localhost:15672/
默认账号 guest guest
如果不能访问,
文件夹为隐藏 需要再文件夹选项中把隐藏文件夹打开显示
C:UsersXYHAppDataRoamingRabbitMQdb 里面的数据删除 再次安装一下Rabbitmq.exe
然后执行
rabbitmq-plugins enable rabbitmq_management
就可以访问到了
五、web管理界?介绍
1.简介
connections:?论?产者还是消费者,都需要与RabbitMQ建?连接后才可以完成消息的?产和消费,在这?可以查看连接情况
channels:通道,建?连接后,会形成通道,消息的投递获取依赖通道。
Exchanges:交换机,?来实现消息的路由
Queues:队列,即消息队列,消息存放在队列中,等待消费,消费后被移除队列。
admin:用户
2.Admin?户和虚拟主机管理
a.添加用户
上?的Tags选项,其实是指定?户的??,可选的有以下?个:
==》超级管理员(administrator):可登陆管理控制台,可查看所有的信息,并且可以对?户,策略(policy)进?操作。
==》监控者(monitoring):可登陆管理控制台,同时可以查看rabbitmq节点的相关信息(进程数,内存
使?情况,磁盘使?情况等)
==》策略制定者(policymaker):可登陆管理控制台, 同时可以对policy进?管理。但?法查看节点的相关信息(上图红框标识的部分)。
==》普通管理者(management):仅可登陆管理控制台,?法看到节点信息,也?法对策略进?理。
==》其他:?法登陆管理控制台,通常就是普通的?产者和消费者。
b.创建虚拟主机
虚拟主机:为了让各个?户可以互不?扰的?作,RabbitMQ添加了虚拟主机(Virtual Hosts)的概念。其实就是?个独?的访问路径,不同?户使?不同路径,各?有??的队列、交换机,互相不会影响。
c、绑定虚拟主机
六、RabbitMQ 的第?个程序
a.AMQP协议
b、RabbitMQ?持的消息模型
c.引入依赖
<dependency>
<groupId>com.rabbitmq</groupId>
<artifactId>amqp-client</artifactId>
<version>5.7.2</version>
</dependency>
第?种模型(直连)
在上图的模型中,有以下概念:
P:?产者,也就是要发送消息的程序
C:消费者:消息的接受者,会?直等待消息到来。
queue:消息队列,图中红?部分。类似?个邮箱,可以缓存消息;?产者向其中投递消息,消费者从其中取出消息。
开发?产者
//创建连接工厂
ConnectionFactory connectionFactory = new ConnectionFactory();
//设置端ip号
connectionFactory.setHost("127.0.0.1");
//设置端口号
connectionFactory.setPort(5672);
//设置用户名和密码
connectionFactory.setUsername("xyh");
connectionFactory.setPassword("123");
//访问的虚拟通道
connectionFactory.setVirtualHost("/vhost");
//连接
Connection connection = connectionFactory.newConnection();
//创建通道
Channel channel = connection.createChannel();
//通道绑定对应的消息队列
//参数1: 是否持久化 参数2:是否独占队列 参
//数3:是否?动删除 参数4:其他属性
channel.queueDeclare("hello",false,false,false,null);
//发布消息
channel.basicPublish("","hello",null,"hello".getBytes());
channel.close();
connection.close();
消费者
//创建连接工厂
ConnectionFactory connectionFactory = new ConnectionFactory();
//设置端ip号
connectionFactory.setHost("127.0.0.1");
//设置端口号
connectionFactory.setPort(5672);
//设置用户名和密码
connectionFactory.setUsername("xyh");
connectionFactory.setPassword("123");
//访问的虚拟通道
connectionFactory.setVirtualHost("/vhost");
//连接
Connection connection = connectionFactory.newConnection();
//创建通道
Channel channel = connection.createChannel();
channel.queueDeclare("hello",false,false,false,null);
//消费消息
channel.basicConsume("hello",true,new DefaultConsumer(channel){br/>@Override
public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
System.out.println(new String(body));
}
});
七、springboot实现简单的rabbitmqbr/>1.导入依赖
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-amqp</artifactId>
</dependency>
2.配置rabbitmq的配置信息
spring.application.name=rabbitmq-springboot
spring.rabbitmq.host=127.0.0.1
spring.rabbitmq.port=5672
spring.rabbitmq.username=dt87
spring.rabbitmq.password=123
spring.rabbitmq.virtual-host=/dt87
3.消息生产者
@Autowired
private RabbitTemplate rabbitTemplate;br/>@Test
public void test(){
//直接获取rabbitmq的模板对象
rabbitTemplate.convertAndSend("hello","hello world");
}br/>4、消息的消费者
@Component
@RabbitListener(queuesToDeclare = @Queue("hello"))
public class Consumer {br/>//消费消息的方法
@RabbitHandler
public void test(String message){
System.out.println(message);
}
}
}
以上是关于程序员之消息队列的主要内容,如果未能解决你的问题,请参考以下文章