秒杀系统怎么设计?
Posted 架构思轩
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了秒杀系统怎么设计?相关的知识,希望对你有一定的参考价值。
建议阅读者:秒杀系统架构设计、秒杀高并发解决方案等
预估阅读时长:15min
文章较长、直奔重点,欢迎与我交流。
什么是秒杀?
“秒杀”是商家在特定时间点进行促销的一种运营手段,体现在系统层面,是指一个Web系统,在一秒钟收到数以万计的用户请求,来抢购数量有限的促销产品。本质上,秒杀系统就是一个“三高”系统,即高并发、高性能、高可用的分布式系统。本文主要从“高并发”的角度,来看看需要解决的主要问题。
秒杀需要处理并发读,并发写。“并发读”需要通过各种手段减少用户到服务端来读数据,而“并发写”主要需要保证数据的正确性,确保大流量下数据一致。
秒杀系统关注三方面
下面以一个秒杀系统的例子,来看看一个秒杀系统主要关注的三方面问题。
一、高并发访问
秒杀前用户不断刷新页面查看,来获得购买按钮,抢购时集中点击并发购买,核心是对系统数据的高并发读访问,可以通过如下手段进行防护。
访问拦截:从浏览器/反向代理/Web层/服务层/数据层多层拦截流量,尽量把访问拦截在离用户更近的层,减少对后台的压力;
分流:主要通过分布式集群技术,多台机器处理,提高并发能力;
动静分离:将动态数据和静态数据尽量分离,并通过缓存和CDN等技术对数据读取进行加速;
二、数据正确性
秒杀伴随这一系列业务流程,包括浏览商品、进入抢购页、购买、扣减库存、支付。其中并发写主要与扣减库存有关,要保证数据的正确性,防止超卖发生。大概的解决方法有:
减库存:事务判断,热点商品放到单独的热点库,增加并发锁
热点:对核心热点数据进行实时分析,并在系统中进行优化或隔离
异步化:是指把购买请求的接受和处理异步化。购买请求先放到队列中,这个过程非常高效,返回客户信息。
限流降级:请求限流,控制系统的访问;对服务的下游依赖进行降级,保证核心链路
三、防作弊
抢购还需要保证公平性,方舟如购票插件购买火车票、黄牛党等。在技术角度,大概方法有:
答题:为了增加购买的复杂度;延缓请求。
Cache校验:处理用户购买请求时校验缓存中是否已记录此商品的购买。
秒杀系统设计原则
1、前台请求数尽量少
前台请求会增加浏览器的负担,尽量简化或合并页面大小(CSS/JS,图片等),去掉页面装饰;减少DNCS解析
2、后台数据尽量少
后台数据会增加网络传输,压缩和字符编码,消耗CPU。需要梳理后台依赖的数据和服务,关注序列化/反序列化方式,减少不必要的数据交互
3、调用路径要尽量短
分布式调用错综复杂,需要尽量缩短调用链路;减少第三方依赖,尽量弱依赖,并做好应用分级
4、尽量不要有单点
高可用和稳定性角度,消除单点;服务无状态化,解藕服务状态和机器,如机器配置动态化;有状态的存储,通过冗余备份提高可用性。
高并发之“访问拦截”
高并发的访问拦截主要思路是:
从浏览器/反向代理/Web层/服务层/数据层多层拦截流量,尽量把访问拦截在离用户更近的层,尽可能地过滤掉无效请求,让“漏斗”最末端的才是有效请求。同时,用户请求更早的得到处理,也减少了每次请求的RT,进而提高了系统的QPS和并发程度。
浏览器访问拦截
防止用户的不必要的点击,可以在产品层面限制用户的行为,比如点击后按钮不可用,限定时间接受请求。当然,为了防止恶意抢购,还需要在防作弊上做其他尝试,比如前文讲的答题/cache校验等。
CDN加速
CDN的全称是Content Delivery Network,即内容分发网络。简单来讲,就是把原服务器上数据复制到其他服务器上,用户就近访问服务器获取资源。缺点是内容变更生效慢。
反向代理访问拦截
主要是动静分离,静态文件作为web项目的一部分进行发布;另外通过nginx托管静态文件 ,减轻Web服务的压力。
Web层和Service层访问拦截
主要是动态数据访问,可以采用缓存的策略,减少对下一层的数据访问。缓存又可分为本地缓存和redis、memcache等缓存中间件。
高并发之“分流”
分流主要通过分布式集群技术,多台机器处理,提高并发能力。
DNS轮询:从App/Browser入口,对请求进行分类,静态数据直接去CDN获取,同时Nginx进行集群化,通过DNCS轮询。
Nginx负载均衡:Nginx可以支持10W的并发访问, Nginx支持配置请求的代理策略,把请求路由到多个Web服务器处理。Nginx支持的负载均衡策略包括:轮询,权重,ip_hash,fair,url_hash等
分布式架构负载策略:Web层调用service,以及service之间的调用,每个service都需要部署多份。目前最常用的两个框架技术,spring cloud、dubbo、HSF,都采用客户端负载均衡策略,路由到service的不同实例。
Redis集群:redis单台几十万的QPS,可通过Redis集群,把数据分配到多台服务器上,减轻每台机器的负载。
Mysql读写分离:一般不对写请求分流,也可通过分布式数据库技术对写请求分流。对于读请求,一般采用读写分离的策略。读库应用单独设置索引,提高读性能。
高并发之“动静分离”
动态页面:根据实时数据渲染的页面,需要调用后台,读取速度慢
静态页面:存储在文件系统的文件,不经常变动,读取速度很
为了提升效率,尽可能静态化,用静态页面,替换动态页面。例如,商品信息页,商品信息在发布后,保存下商品信息的静态页面;仅访问必要的数据实时数据。
几个关注点:
1、 静态数据缓存到离用户最近的地方。比如浏览器、CDN、服务端的 Cache
2、 可以直接缓存 HTTP 连接。关键是数据中是否含有和访问者相关的个性化数据,比如输出的数据是否和 URL、浏览者、时间、地域相关,以及是否含有 Cookie 等私密数据。
3、 经常使用Nginx和Web服务器缓存静态文件。Java 系统本身不擅长处理大量连接请求,需要在Nginx和Web侧尽量缓存
4、 动态数据尽量Json化。减少不必要的数据传输和解析
5、 缓存还需要考虑失效问题/命中率问题/发布更新问题/动静数据合并;以失效为例,一般有三种方式:超时更新,定时更新,通知更新。
秒杀之“减库存”
减库存一般有如下方式:下单减库存,付款减库存,预扣库存。
其中,笔者比较推荐“下单减库存”,因为参加秒杀,买到就是赚到,成功下单后却不付款的情况比较少;同时卖家对秒杀商品的库存有严格限制,逻辑上更为简单。
当然“下单减库存”,要保证库存数据不能为负数。
一些方法:
1、事务判断,即保证减后库存不能为负数,否则就回滚;
2、直接设置数据库的字段数据为无符号整数,小于零时会直接报错;
3、热点商品放在单独的热点库
4、并发锁:增加并发锁,比如排队等
5、计数器:在Web层或Service层做一个计数器,技术到达阈值,直接返回抢购失败。
6、按商品路由:把对同一品类商品的抢购路由到同一个service以及DB链接上,减少不必要的锁竞争。
实践中的一些原则:
1. 将读数据缓存在 Web 端,过滤掉无效的数据读;
2. 对读数据不做强一致性校验;
3. 对写数据做基于时间的分片,过滤过期请求;
4. 对写请求做限流保护,过滤超载请求;
5. 对写数据强一致性校验,仅校验最后有效的数据。
秒杀之“热点”
秒杀需要对核心热点数据进行实时分析,处理思路可以从业务/系统/数据不同角度进行优化/限制/隔离,比如:
静态热点数据:提前预测。卖家报名,提前打标
动态热点数据:系统在运行过程中临时产生的热点
也可以增加单独的热点分析组件,总体控制系统业务的热点,并做对应的限制和隔离方法。
秒杀之“异步”
秒杀系统设计上,经常使用消息队列来缓冲瞬时流量,把同步的请求调用转换成异步的间接推送,中间通过一个队列在一端承接瞬时的流量洪峰,在另一端平滑地消费消息。
本质上,就是把一步变成两步,其中增加一些机制来缓冲。比如在秒杀优惠券抢购,用户抢码(确定用户是否有资格) 和 系统发码(为有资格用户分发优惠券) ,抢码QPS可能10几万,只需要知道是否有资格;而发码仅针对有资格用户,QPS可能仅仅几千,使用消息队列,可以大大提高效率。
除了消息队列,也可以使用其他方式排队,比如线程池加锁等待、内存排队算法(如FIFO)、文件排队(如基于 mysql binlog 的同步机制)
Takeaways
秒杀系统就是一个“三高”系统,即高并发、高性能和高可用的分布式系统
秒杀设计原则:前台请求尽量少,后台数据尽量少,调用链路尽量短,尽量不要有单点
秒杀高并发方法:访问拦截、分流、动静分离
秒杀数据方法:减库存策略、热点、异步、限流降级
访问拦截主要思路:通过CDN和缓存技术,尽量把访问拦截在离用户更近的层,尽可能地过滤掉无效请求。
分流主要思路:通过分布式集群技术,多台机器处理,提高并发能力。
最后
王思轩,计算机专业博士,阿里巴巴技术架构师
获得加拿大卡尔顿大学计算机博士学位,并获得法国和哈尔滨工业大学双硕士,哈尔滨工业大学本科,发表过10余篇国际学术论文。多年从事于云计算和系统架构设计工作,曾就职于华为,Qlik,Honeywell。现任阿里巴巴技术架构师,负责并参与云智能中间件解决方案设计,以及企业互联网架构的赋能培训工作。
• end •
作者 | 王思轩
架构思轩
架构师思考小屋
空·
以上是关于秒杀系统怎么设计?的主要内容,如果未能解决你的问题,请参考以下文章