云上负载均衡，轻松面对高并发

Posted 2021-04-15 云华东中心

对于大量用户同时访问网站或者APP的高并发场景，例如电商网站进行秒杀活动，保证用户的正常访问是一个基本的需求。

                          

天翼云负载均衡满足应对每秒几十万次的并发处理需求，同时通过负载均衡将业务负载分摊到多台天翼云主机，提升业务处理能力。

某些高并发需求的网站需要进行用户身份认证，例如电商网站中完成一笔交易需要一个客户与服务器经常经过好几次交互过程。从技术上而言，需要所有这些相关的交互过程都由一台服务器完成，否则容易出现登陆不上，客户放入购物车物品丢失等场景。

对于上述情景，云上负载均衡服务既可以满足高并发场景，同时其会话保持机制确保在合适的情境下，将来自相同客户端的请求转发至后端相同的服务器进行处理。

对于访问量波动明显的场景（如视频类、电商网站等无法预估业务拓展空间场景），单纯通过采用部署大量服务器的方式会造成资源的浪费。

云上负载均衡，可以实现后端服务器真正的弹性伸缩，后端服务器可以根据业务的负载量进行弹性伸缩，节省成本。

对于正在运行的集群服务器，如果集群中某台设备出现故障，既对业务系统造成影响，同时对运维人员排查造成比较大的困难。

上负载均衡服务集成健康检查功能，在后端服务器出现异常时会把请求转发到健康的服务器上去，从而实现异常的自动处理。

解决方案：

云上负载均衡解决上述场景中呈现的多种问题，具备以下特点：

• 可弹性伸缩，可以根据业务的需要，随时增加或减少后端服务器的数量，扩展应用的服务能力。

• 与传统硬件负载均衡系统高投入相比，云上负载均衡成本相对较低。

• 高并发负载均衡集群支持亿级并发连接

案例分析：

某公司业务具备大连接高并发特点，既有TCP连接，也有UDP连接；客户的所有业务部署在天翼云上，最大连接数目前已达到9000万，并且连接数在不断的增长。经过与客户沟通讨论，客户采用DNS+ELB（负载均衡）集群方式轻松解决高并发问题。

通过DNS将针对不同业务的连接分配到不同的ELB（负载均衡），目前每个ELB（负载均衡）目前可以承载的最大连接数为1000万。

  方案优点：

（1）   客户所有业务系统部署于云上，大大降低了成本；

（2）   满足客户不断增加的大连接数请求，实现云主机的弹性扩容；

（3）   降低运维难度，自动剔除异常云主机；

（4）   ELB既支持四层负载均衡，也支持七层负载均衡，安全性更好，例如有效抵挡网络中最常见的SYN Flood攻击。