负载均衡

Posted 2022-04-07 nanyuan

       负载均衡，一般包含两方面的含义。一方面是，讲单一的重负载分担道多个网络节点上做并行处理，每个节点处理结束后将结果汇总返回给用户，这样可以大幅提高网络系统的处理能力；第二份方面的含义是，将大量的前端并发访问或者数据流量分担到多个后端网络节点上分别处理，这样可以有效的减少前端用户等待响应时间。

       nginx服务器的负载均衡策略可以划分为两大类：即内置策略和扩展策略。内置策略主要包含轮询、加权轮询、IP hash三种；扩展策略主要通过第三方模块实现，种类比较丰富，常见的有 url hash、fair等。

在默认情况下，内置策略会被编译进Nginx内核，使用时只需在Nginx服务器配置中设置相关参数即可；扩展策略不会编译进Nginx内核，需要手动将第三方模块编译到Nginx内核。

     轮询策略比较简单，就是将每个前端请求按顺序（时间顺序或者排列次序）逐一分配到不同的后端结点上，对于出现问题的后端节点自动排除。加权轮询策略，顾名思义，就是在基本的轮询策略上考虑后端节点接受各后端节点接受请求的权重，指定各后端节点被轮询到的几率。加权轮询策略主要用于后端节点性能不均的情况。根据后端节点性能的实际情况，我们可以在Nginx服务器的配置文件中调整权值，使得整个网络对前端请求达到最佳的相应能力。IP hash策略，是将前端的访问IP进行hash操作，然后根据hash结果将请求分配到不同的后端节点。实现上，这种策略可以看做是一种特殊的轮询策略。通过Nginx 的实现，每个前端访问IP会固定访问一个后端节点，这样做的好处是避免考虑前端用户的session在后端多个节点上共享的问题。

     扩展策略中的url hash在形式上和IP hash相近，不同之处在于，IP hash 策略是对前端访问IP 进行了hash 操作，而url hash 策略是对前端请求的url 进行了hash操作。url hash 策略的有点在于，如果后端有缓存服务器，他能够提高缓存效率，同时也解决了session的问题；但其缺点是，如果后端节点出现异常，它不能自动排除该节点。在实际使用过程中，后端节点出现异常会导致Nginx服务器返回503错误。

     扩展的第三方模块fair则是从另一个角度来实现Nginx服务器负载均衡策略的。该模块将前端请求转发到一个最近负载最小的后台节点。那么，负载最小怎么判断呢？Nginx通过后端节点对请求的相应时间来判断负载情况。相应时间短的节点负载相对就轻。得出判断结果后，Nginx就将前端请求转发到选中的负载最轻的节点。