Apache负载 均衡

Posted 宋赟鑫 https://meilishiyan-song.t

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Apache负载 均衡相关的知识,希望对你有一定的参考价值。

第2章 负载均衡

(黎明你好原创作品,转载请注明)

2.1 Tomcat链接方式

        首先我们先介绍一下为什么要让http server与Tomcat之间进行连接。事实上Tomcat本身已经提供了HTTP服务,该服务默认的端口是8080,装好tomcat后通过8080端口可以直接使用Tomcat所运行的应用程序,你也可以将该端口改为80。既然Tomcat本身已经可以提供这样的服务,我们为什么还要引入Apache或者其他的一些专门的HTTP服务器呢?原因有下面几个:

        1. 提升对静态文件的处理性能。

        2. 利用Web服务器来做负载均衡以及容错。

        3. 无缝的升级应用程序。

        这三点对一个web网站来说是非常之重要的,我们希望我们的网站不仅是速度快,而且要稳定,不能因为某个Tomcat宕机或者是升级程序导致用户访问不了,而能完成这几个功能的、最好的HTTP服务器也就只有apache的http server了,它跟tomcat的结合是最紧密和可靠的。

        默认情况下,Tomcat在server.xml中配置了两种连接器:

        第一个连接器监听8080端口,负责建立HTTP连接。在通过浏览器访问Tomcat服务器的Web应用时,使用的就是这个连接器。

        第二个连接器监听8009端口,负责和其他的HTTP服务器建立连接。在把Tomcat与其他HTTP服务器集成时,就需要用到这个连接器。

        两种端口可以同时开,也可以开一个。例如我们使用apache通过ajp进行负载均衡配置时,可以关掉tomcat的http8080端口以防止可以被单独访问。

        Web客户访问Tomcat服务器上JSP组件的两种方式如图:

 
技术分享
 

        使用http方式,配置文件

Java代码  技术分享
  1. <Connector executor="tomcatThreadPool" port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />  
  2. <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">  

        使用ajp方式,配置文件

Java代码  技术分享
  1. <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />  
  2. <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">  

 

2.2 mod_proxy

        mod_proxy_balancer是apache httpd自带的负载平衡支持。其优点可以根据实际的运行时机器的环境来决定负载均衡的策略。实现Session在node上进行共享传递。

 

2.2.1 加载so库

Java代码  技术分享
  1. #mod_proxy_blancer  
  2. LoadModule proxy_module modules/mod_proxy.so  
  3. LoadModule proxy_ajp_module modules/mod_proxy_ajp.so    
  4. LoadModule proxy_ftp_module modules/mod_proxy_ftp.so   
  5. LoadModule proxy_http_module modules/mod_proxy_http.so   
  6. LoadModule proxy_connect_module modules/mod_proxy_connect.so  
  7. LoadModule proxy_balancer_module modules/mod_proxy_balancer.so  

 

2.2.2 http方式

Java代码  技术分享
  1. <Proxy balancer://mycluster>  
  2.     BalancerMember http://127.0.0.1:8080 loadfactor=3  
  3.     BalancerMember http://127.0.0.1:7080 loadfactor=3  
  4.     ProxySet lbmethod=byrequests  
  5. </Proxy>  
  6. ProxyRequests Off  
  7. ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off  
  8. ProxyPassReverse /test balancer://mycluster/    

 

        实现负载均衡的原理为:假设Apache接收到http://127.0.0.1 /test请求,由于该请求满足ProxyPass条件(其URL前缀为“/"),该请求会 被分发到后台某一个BalancerMember。譬如该请求可能会转发到http://127.0.0.1:8080/进行处理。当第二个满足条件的URL请求过来时,该请求可能会被分发到另外一台BalancerMember,譬如,可能会转发到 http://127.0.0.1:7080/如此循环反复,便实现了负载均衡的机制。

        loadfactor表示:后台服务器负载到由Apache发送请求的权值,该值默认为1,可以将该值设置为1到100之间的任何值。以上面的配置为例,进行4此请求时,则有3次连续的这样请求被负载到BalancerMember为http://127.0.0.1:8080/的服务器;有1次被负载到BalancerMember为http://127.0.0.1:7080/的服务器。

        lbmethod表示:负载载均衡策略。 

        lbmethod=byrequests 按照请求次数均衡(默认) 

        lbmethod=bytraffic 按照流量均衡 

        lbmethod=bybusyness 按照繁忙程度均衡(总是分配给活跃请求数最少的服务器)

        ProxyPass表示:所有的test请求都会重定向到balancer://mycluster/处理。balancer是内置负载。

        ProxyPassReverse表示:反向代理,也就是将所有的请求反向代理到负载均衡后的应用url路径中。

        stickysession表示:进行Session复制使用。

 

2.2.3 AJP方式

        tomcat提供了ajp协议和httpd通信。当不想tomcat的8080端口开放时,可以使用此方式,配置文件:

Java代码  技术分享
  1. <Proxy balancer://mycluster>  
  2.     BalancerMember ajp://127.0.0.1:8009 loadfactor=2 route=tomcat1  
  3.     BalancerMember ajp://127.0.0.1:7009 loadfactor=2 route=tomcat2  
  4.     ProxySet lbmethod=byrequests  
  5. </Proxy>  
  6. ProxyRequests Off  
  7. ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off  
  8. ProxyPassReverse /test balancer://mycluster/    

 

2.2.4 热备份

        热备份的实现很简单,只需添加 status=+H 属性,就可以把某台服务器指定为备份服务器:

        此时请求总是流向 8080这个url ,一旦8080挂掉, Apache会检测到错误并把请求分流给7080。Apache会每隔几分钟检测一下8080的状况,如果8080恢复,就继续使用8080。

Java代码  技术分享
  1. <Proxy balancer://mycluster>  
  2.     BalancerMember http://127.0.0.1:8080  
  3.     BalancerMember http://127.0.0.1:7080 status=+H   
  4.     ProxySet lbmethod=byrequests  
  5. </Proxy>  
  6. ProxyRequests Off  
  7. ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off  
  8. ProxyPassReverse /test balancer://mycluster/    

 

2.2.5 虚拟主机

        配置文件

Java代码  技术分享
  1. <VirtualHost *:80>    
  2.     ServerAdmin limingnihao@iteye.com  
  3.     ServerName localhost    
  4.     ServerAlias localhost    
  5.     <Proxy balancer://mycluster>  
  6.         BalancerMember ajp://127.0.0.1:8009 loadfactor=1 route=tomcat1  
  7.         BalancerMember ajp://127.0.0.1:7009 loadfactor=1 route=tomcat2  
  8.         ProxySet lbmethod=bytraffic  
  9.     </Proxy>  
  10.     ProxyRequests Off  
  11.     ProxyPass /test balancer://mycluster/ stickysession=JSESSIONID nofailover=Off    
  12.     ProxyPassReverse /test balancer://mycluster/    
  13.     ErrorLog "logs/error.log"    
  14.     CustomLog "logs/access.log" common    
  15. </VirtualHost>  

 

2.2.6 监控功能

        可添加以下配置,可以查看监控页面。通过访问:http://127.0.0.1/balancer-manager。

配置文件

Java代码  技术分享
  1. <Location /balancer-manager>     
  2.     SetHandler balancer-manager   
  3.     Order Allow,Deny  
  4.     Allow from all   
  5. </Location>  

 

2.3 mod_jk

        Tomcat提供了专门的JK插件来负责Tomcat和HTTP服务器的通信。应该把JK插件安置在对方的HTTP服务器上。当HTTP服务器接收到客户请求时,它会通过JK插件来过滤URL,JK插件根据预先配置好的URL映射信息,决定是否要把客户请求转发给Tomcat服务器处理。例如预先配置好所有"/*.jsp"形式的URL都由Tomcat服务器来处理

        Tomcat提供了不同的JK插件的实现模块。常用的JK插件有:

        与Apache HTTPD服务器集成:mod_jk.so

        与Windows IIS服务器集成:isapi_redirect.dll

 

2.3.1 Workers.properties

        Workers实际上属于Tomcat的链接器(Connector),代表了一个Tomcat实例,这个实例代表了由某种web服务器来执行 servelet程序。举例来说,我们可以使用某个服务器,例如apache 来把servelet请求转递Tomcat进程(worker)来进行后台处理。

        这样我们就可以通过配置多个 Worker,让不同的请求能够被不同的Worker处理,这些Worker可以提供不同的开发环境,使得所有开发者可以共享一个服务器而每个人都拥有自己的Worker。

        想要提供负载平衡,只要在同一台机器上运行多个Tomcat Worker并且能够在这些Worker之间分布Web请求。

        Tomcat Workers都定义在一个叫做workers.properties属性文件之中,并且workers的说明告诉应该如何使用它们。

 

2.3.1.1 全局配置项

指令 默认 说明
worker.list ajp13 由逗号分离开的worker名称列表.
worker.maintain 60 辅助连接池保持间隔,以秒为单位。

 

2.3.1.2 链接指令

 

可配置一个通用的,然后每个work进行继承。

指令 默认 说明
type ajp13 指定Tomcat服务器 与Apache之间的通信协议
host localhost Tomcat主机名或 IP 地址。
port 8009 Tomcat侦听端口号。AJP13的默认端口是8009.
socket_connect_timeout socket_timeout*1000 套接字超时时间(毫秒为单位)。
socket_keepalive false 在未激活的连接中发送KEEP_ALIVE信息(发送间隔时间依赖于操作系统的设置,一般为120秒)
ping_mode -

探测tomcat的状态策略。

C(content):链接模式,最后一次链接判断是否超时。connect_timeout定义时间。若未定义使用ping_timeout。

P(prepost):请求模式,通过每次请求判断是否超时。prepost_timeout定义时间。若未定义使用ping_timeout。

I(interval):间隔模式,定期检测链接是否超时。connection_ping_interval间隔时间。ping_timeout超时时间。

A:以上所有的探测策略都将开启。

connection_pool_size   JK会维护多个长连接做为一个池。它被用来设置每个WebServer(Apache)子进程的最大连接数。
connection_pool_minsize (pool+1)/2 连接池中维护最小的连接数。
connection_pool_timeout 0 在连连池中维护的非活动连接连续多少秒后被释放。如果为0,则不释放。
connection_acquire_timeout retries*retry_interval 获取接连的超时。
lbfactor 1 负载平衡器权值

 

 

2.3.1.3 负载均衡设置

指令 默认 说明
balance_workers   逗号分隔的worker列表
sticky_session true 负载喷发采用Session粘贴机制,按SessionID喷发请求。为了保障同一SessionID的请求被分发到同一台服务器上。
sticky_session_force false 如果为True, SessionID并不合法时则返回500错误,否则,丢掉Session并转发到另外的机器上。

 

 

2.3.1.4 实例

Java代码  技术分享
  1. # Define two status worker:  
  2. # - jk-status for read-only use  
  3. # - jk-manager for read/write use  
  4. worker.list=jk-status  
  5. worker.jk-status.type=status  
  6. worker.jk-status.read_only=true  
  7.   
  8. worker.list=jk-manager  
  9. worker.jk-manager.type=status  
  10.   
  11. # We define a load balancer worker  
  12. # with name "balancer"  
  13. worker.list=balancer  
  14. worker.balancer.type=lb  
  15. worker.balancer.error_escalation_time=0  
  16. worker.balancer.max_reply_timeouts=10  
  17. worker.balancer.sticky_session=true  
  18. worker.balancer.sticky_session_force=true    
  19.   
  20. # Now we add members to the load balancer First member is "tomcat1", most attributes are inherited from the template "worker.template".  
  21. worker.balancer.balance_workers=tomcat1  
  22. worker.tomcat1.reference=worker.template  
  23. worker.tomcat1.host=127.0.0.1  
  24. worker.tomcat1.port=8009  
  25. worker.tomcat1.activation=A  
  26.   
  27. # Second member is "tomcat2", most attributes are inherited from the template "worker.template".  
  28. worker.balancer.balance_workers=tomcat2  
  29. worker.tomcat2.reference=worker.template  
  30. worker.tomcat2.host=127.0.0.1  
  31. worker.tomcat2.port=7009  
  32. worker.tomcat2.activation=A  
  33.   
  34. # Finally we put the parameters  
  35. worker.template.type=ajp13  
  36. worker.template.socket_connect_timeout=5000  
  37. worker.template.socket_keepalive=true  
  38. worker.template.ping_mode=A  
  39. worker.template.ping_timeout=10000  
  40. worker.template.connection_pool_minsize=0  
  41. worker.template.connection_pool_timeout=600  
  42. worker.template.reply_timeout=300000  
  43. worker.template.recovery_options=3  

 

2.3.2 uriworkermap.properties

Java代码  技术分享
  1. /*.do=balancer  
  2. /*.jsp=balancer  
  3.   
  4. #/*.gif=balancer  
  5. #/*.jpg=balancer  
  6. #/*.png=balancer  
  7. #/*.css=balancer  
  8. #/*.js=balancer  
  9. #/*.htm=balancer  
  10. #/*.html=balancer  
  11. #/*.txt=balancer  
  12.   
  13.   
  14. # Optionally filter out all .jpeg files inside that context  
  15. # For no mapping the url has to start with exclamation (!)  
  16.   
  17. !/servlets-examples/*.jpeg=lb  
  18.   
  19. #  
  20. # Mount jkstatus to /jkmanager  
  21. # For production servers you will need to  
  22. # secure the access to the /jkmanager url  
  23. #  
  24. /jk-manager=jk-manager  
  25. /jk-status=jk-status  

 

 

2.3.3 httpd.conf

        需要在中添加httpd的配置文件中加载jk的配置文件。

Java代码  技术分享
  1. # 加载jk配置文件  
  2. #Include conf/mod_jk.conf  

 

2.3.4 mod_jk.conf

Java代码  技术分享
  1. # a versioned file name.  
  2. LoadModule jk_module modules/mod_jk_2.2_32.so  
  3. <IfModule jk_module>  
  4.     JkWorkersFile conf/workers.properties  
  5.     JkLogFile logs/mod_jk.log  
  6.     JkLogLevel info  
  7.     JkShmFile logs/mod_jk.shm  
  8.     # JkOptions +RejectUnsafeURI  
  9.     # JkStripSession On  
  10.     JkWatchdogInterval 60  
  11.     <Location /jk-status>  
  12.         # Inside Location we can omit the URL in JkMount  
  13.         JkMount jk-status  
  14.         Order deny,allow  
  15.         Deny from all  
  16.         Allow from 127.0.0.1  
  17.     </Location>  
  18.     <Location /jk-manager>  
  19.         # Inside Location we can omit the URL in JkMount  
  20.         JkMount jk-manager  
  21.         Order deny,allow  
  22.         Deny from all  
  23.         Allow from 127.0.0.1  
  24.     </Location>  
  25.     JkMountFile conf/uriworkermap.properties  
  26. JkMount /* balancer  
  27.     # JkUnMount /myapp/static/* *  
  28.     # JkUnMount /myapp/images/* balancer  
  29.     # SetEnvIf REQUEST_URI "\.(htm|html|css|gif|jpg|js)$" no-jk  
  30.     # SetEnvIf Request_URI "/transactions/" JK_REPLY_TIMEOUT=600000  
  31.     # SetEnvIf Request_URI "/reports/" JK_REPLY_TIMEOUT=0  
  32. </IfModule>  

 

 

2.3.5 编译Linux版本JK

        在linux自行编译jk时,需要以下步骤:

        1.解压tomcat-connectors-1.2.37-src.tar.gz

        2.指定httpd的apxs文件。他会自动将mod_jk.do生成到httpd的modules下。

Java代码  技术分享
  1. ./configure --with-apxs=/opt/apache/httpd/bin/apxs  

 

2.4 Session同步方式

2.4.1 sticky模式

        前端balancer可实现sticky模式的session同步功能。利用负载均衡器的sticky模式的方式把所有同一session的请求都发送到相同的Tomcat节点。这样不同用户的请求就被平均分配到集群中各个tomcat节点上,实现负载均衡的能力。这样做的缺点是没有灾难恢复的能力。一旦一个节点发生故障,这个节点上所有的session信息全部丢失;同一用户同一session只和一个webServer交互,一旦这个webserver发生故障,本次session将丢失,用户不能继续使用。

 

2.4.2 复制模式

        利用Tomcat session复制的机制使得所有session在所有Tomcat节点中保持一致。当一个节点修改一个session数据的时候,该节点会把这个 session的所有内容序列化,然后广播给所有其它节点。这样当下一个用户请求被负载均衡器分配到另外一个节点的时候,那个节点上有完备的 session信息可以用来服务该请求。这种做法的问题是对session哪怕有一点点修改,也要把整个sessions数据全部序列化 (serialize),还要广播给集群中所有节点,不管该节点到底需不需要这个session。这样很容易会造成大量的网络通信,导致网络阻塞。一般采 用这种方式,当Tomcat节点超过4个时候,整个集群的吞吐量就不能再上升了;

        此方式是通过tomcat本身提供的功能,只需要修改server.xml文件

        (1)修改Engine节点信息: <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">

        (2)去掉<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"/> 的注释符

        (3)web.xml中增加 <distributable/>

 

2.5 Linux部署常见问题

        1.Failed to lookup provider ‘shm‘ for ‘slotmem‘: is mod_slotmem_shm loaded??

        加载mod_slotmem_shm.so就可以了。

 

        2.BalancerMember Can‘t find ‘byrequests‘ lb method

        三种模式,需要加载三个so:

        mod_lbmethod_bybusyness.so

        mod_lbmethod_byrequests.so

        mod_lbmethod_bytraffic.so



以上是关于Apache负载 均衡的主要内容,如果未能解决你的问题,请参考以下文章

Centos7+Haproxy实现Apache负载均衡

apache+tomcat 负载均衡

Apache实现负载均衡

Apache实现负载均衡

Apache配置负载均衡-实例

通过Nginx TCP反向代理实现Apache Doris负载均衡