云网络浅析 - 负载均衡产品遇到的问题

Posted 2021-04-15 gangyewei

云网络浅析 - 负载均衡产品遇到的问题

1. 概述

负载均衡产品（即SLB），是比较重要的公有云产品。其基本架构是DNS+L7LB+L4LB+RS集群。对于租户，使用SLB，再配合调度，可以将自己的服务弹性扩容。下面重点讲述在做SLB的过程中遇到的疑难杂症。

2. 产品架构遇到的问题

SLB的业务、架构比较成熟，那怎么在众多产品中作出优势？

从单个用户的角度出发分析，功能方面：

• http方面：http-1.1及以下、https等。这个nginx可以cover。

• https双向认证，这个TC支持了，MT没有。

• UDP L4LB，JS就不支持这个，说明他们有可能根本就没用L4LB。

• 调度算法，有静态调度（RR、WRR），动态调度（LC），还有会话保持调度（SIP、IP-hash、consistant-hash），最后这个是强需求。

• 重定向，http可以重定向，这个nginx可以搞，不过有些客户还需要https重定向。

从单个用户的角度出发分析，性能方面：

• 可用性，即不能302。

• 延时，延时太高肯定不行，参考3秒原则。

• 并发量。

从集群角度（多个租户）出发，性价比高的实现方案：如果受经费限制的话，最好做成共享带宽的模式，计费可以在外部实现。阿里、ucloud等使用listener的模式，计费在内部实现。集群肯定比主备方案好。

3. 组网遇到的问题

上述产品feature决定了组网。

都有哪些组网方案？一共6种，不过最终选择了主流的EIP+L4LB+L7LB+RS模式。这种优势在于1）扩容方便，2）用户操作方便。

L4LB使用哪种网络方案？fullnat。cip携带问题有现成方案。

已有EIP用户如何平滑升级到ELB？EIP加到L4LB上，计费在外网核心单独计费。

4. 研发遇到的问题

L4LB几个大问题：

• session同步

• 配置统一管理

• IPv6

• QUIC

5. 测试遇到的问题

测试视角很重要。

性能测试？主要从用户视角考虑，测试的性能指标包括测试请求的平均响应时间、最大响应时间、50%请求的响应时间、99%请求的响应时间，通过这些指标来判断用户实际获得的性能体验如何。

压力测试？主要从运维视角考虑，测试的性能指标包括处理能力、各种硬件资源占用，通过这些指标来了解目前应用的处理能力，通过业务增长了解何时需要进行扩容。

6. 运营遇到的问题

如何排查问题？总结一个流程。例如，如果遇到用户反馈客户端出现不成功（3XX、4XX、5XX）：

• 查看是L4LB还是L7LB问题。

• 检查L4LB健康状态。

• 检查URL-VIP映射是否正常，检查VIP-RS映射是否正常。

如何发现问题？压测、演练、监控。

监控哪些项目？

• 客户端监控，即自建或者借助客户反馈，MT自建

• 设备监控，即LB设备的状态监控，这个需要自己开发，走管理网

• L4LB-L7LB监控，可以把L7LB看作RS，LVS标准方案。

• L7LB-RS监控，nginx方案。