互联网高并发分布式架构，究竟如何限流？

Posted 2021-04-14 架构师之路

高并发编程、分布式框架、Spring等常用框架可以说是现在Java后端求职的必备技能。

每一个技术方向的背后都包含了众多技术细节，以开发一个分布式系统来说，需要分布式存储/数据库/缓存、中间件、RPC、消息系统、分布式一致性处理等多种知识。

面对如此多的技术细节，怎么样才能说自己的技术已经过关了呢？

01

基础技术体系

知识技能体系化是判断技术是否过关的第一步。知识体系化包含两层含义：

1、 能够知道技术图谱的内容，即包含了哪些技术点

比如分布式系统中常用的RPC技术，其背后就涉及到网络IO（Netty）、网络协议、服务发现（Zookeeper配置中心）、RPC服务治理（限流、熔断、降级）、负载均衡等。 （具体技术知识图谱见后文）

2、 能够理清各类技术概念之间的区别和联系

在分布式系统领域中，有很多相似的概念，但又分布在不同的产品或层级中。比如负载均衡这个词，DNS、LVS、Ngnix、F5等产品都能实现，而且在大型分布式系统中他们会同时存在，那么就要搞清楚他们各自的位于什么层级，解决了什么问题。

再比如缓存这项技术，有分布式缓存、本地缓存、数据库缓存，再往下还有硬件层级的缓存。同样都是缓存，他们之间的区别又是什么？

如果你仔细去观察，高阶工程师总是能对整个技术体系了如指掌，从而在系统设计与技术选型阶段就能够做出较为合理的架构。

 

02

实践经验的积累

能否快速解决实战中的业务问题是判断技术是否过关的第二步。

大家在面试的过程中，都会有一种体会，就是我的知识体系也已经建立了，但在回答面试官问题的时候总感觉像在背答案，而且也没有办法针对性的回答面试官问题。

1、我们知道消息队列可应用于耦系统，应对异步消费等场景，那如何在网络不可靠的场景下保证业务数据处理的正确性？

2、我们都知道在分布式系统会用到缓存，那该如何设置缓存失效机制才能避免系统出现缓存雪崩？

3、我们都或多或少的知道系统发布上线的流程，但在大流量场景下采用何种发布机制才能尽可能的做到平滑？

能完善的解决这些问题是区分一个程序员是否有经验的重要标志，知识的体系化是可以从书本不断的凝练来获得，但经验的积累需要通过实战的不断总结。

对很多人来说很为难的一点是，平时写着的业务代码，很少有机会接触到大厂的优秀实践，那么这时候更需要从如下两个角度逼问：

1、当流量规模再提高几个量级，那么我的系统会出现什么问题？

2、假如其中一个环节出现了问题，那么该怎么保证系统的稳定性？

03

技术的原理

上面的提到都是将技术用于业务实践，以及高效的解决业务中出现的问题。但这是否就意味着自己的技术已经过关了呢？答案是否定的。

判断技术是否过关的第三步是能否洞察技术背后的设计思想和原理。

如果你参加过一些大厂面试，还会问到一些开放性的问题：

1、 写一段程序，让其运行时的表现为触发了5次Young GC、3次Full GC、然后3次Young GC；

2、 如果一个Java进程突然消失了，你会怎么去排查这种问题？

3、 给了一段Spring加载Bean的代码片段，阐述一下具体的执行流程？

是不是看上去很难，是不是和自己准备的“题库”中的问题不一样？不知道从何处下手？如果你有这种感觉，那么说明你的技术还需要继续修炼。

你要明白的是这种开放性的问题，提问的角度千变万化，但最终落脚点却都是基本原理。如果你不了解GC的触发条件，你就肯定无法答出第一题；同样，如果你对Spring启动机制了解的很清楚，那么无论他给出的是什么样的代码，你都能回答出代码经历的过程。如果你能以不变应万变，那么恭喜你，你的技术过关了。

上面提到了很多技术问题，不做详细的解释，都能在下面的知识体系中找到答案。
画外音：该知识体系建议保存。

（扫描文末二维码，能领取高清版技术知识图谱）

看上去很不错，不过适不适合自己，还是要学了之后才知道！ 这里给大家准备了免费的Java源码与实战视频直播课程，源码+实战，助你全面提升！

▼

No.1

《Java高级进阶系列直播》

每晚8:00

【源码+实战+原理】直播主题

10月21日

【实战】网易云课堂-分布式事务解决方案实录

10月22日

【实战】网易内部Redis高可用架构设计

10月23日

【原理】微服务统一配置中心原理揭秘

10月24日

【实战】互联网高并发分布式限流技术分享

10月25日

【原理】分布式架构系统如何定位线上问题？

10月26日

【原理】高并发集群Session共享技术全方位剖析

10月27日

【实战】如何保证隐私数据不裸奔～Https网络安全架构设计与实践

扫描二维码，免费参与直播

No.2

网易Java进阶资料包

扫描二维码，领取资料包与知识图谱

免费直播，先到先得~

网易出品，必属精品。

每晚8点，免费看直播送资料+知识图谱。

画外音：今晚播配置中心，明天讲限流，后天讲分布式追踪，再往后分布式session与https，干货不断。