CentOS 6.5上部署Haproxy

Posted

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了CentOS 6.5上部署Haproxy相关的知识，希望对你有一定的参考价值。

环境说明：

主机名角色IP地址
mylinux1.contoso.com
Haproxy

eth0:192.168.100.121

eth1:172.16.100.121

mylinux3.contoso.comssh server(做tcp实验用)eth0:192.168.100.181
mylinux4.contoso.comssh server(做tcp实验用)eth1:192.168.100.182

一、环境准备

以下配置基本上是每一次都要提前准备的，所以准备的命令我就不详细列出了，前面有一个一键优化的脚本，可以使用脚本进行自动化的处理，避免多次重复操作的困扰。

# 检查防火墙
[[email protected] ~]# iptables -L -n
Chain INPUT (policy ACCEPT)
target     prot opt source               destination         
Chain FORWARD (policy ACCEPT)
target     prot opt source               destination         
Chain OUTPUT (policy ACCEPT)
target     prot opt source               destination    
# 检查SELinux     
[[email protected] ~]# getenforce
Disabled
# 检查时间同步
[[email protected] ~]# crontab -l
0 * * * * /usr/sbin/ntpdate   210.72.145.44 64.147.116.229 time.nist.gov
# 设置yum源
mkdir -p /etc/yum.repos.d/bak
mv /etc/yum.repos.d/*.* /etc/yum.repos.d/bak/
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-6.repo 
yum clean all
yum makecache
# 设置主机名
sed -i ‘/^HOSTNAME/s/^/#/‘ /etc/sysconfig/network
sed -i ‘/#HOSTNAME/aHOSTNAME=[主机名]‘ /etc/sysconfig/network
hostname [主机名]

二、安装Haproxy

[[email protected] ~]# mkdir -p /opt/tools
[[email protected] ~]# cd /opt/tools/
[[email protected] tools]# ll
total 2608
-rw-r--r--  1 root root  1360582 Sep 30 11:02 haproxy-1.5.18.tar.gz
[[email protected] tools]# tar -zxf haproxy-1.5.18.tar.gz 
[[email protected] tools]# cd haproxy-1.5.18
[[email protected] haproxy-1.5.18]# ls
CHANGELOG  CONTRIBUTING  ebtree    include  Makefile  ROADMAP  SUBVERS  VERDATE
contrib    doc           examples  LICENSE  README    src      tests    VERSION
[[email protected] haproxy-1.5.18]# mkdir -p /usr/local/haproxy
[[email protected] haproxy-1.5.18]# make  TARGET=linux26 ARCH=x86_64 PREFIX=/usr/local/haproxy/
[[email protected] haproxy-1.5.18]# make install PREFIX=/usr/local/haproxy
[[email protected] haproxy-1.5.18]# cd /usr/local/haproxy/
[[email protected] haproxy]# tree 
├── doc
│   └── haproxy
│       ├── architecture.txt
│       ├── configuration.txt
│       ├── haproxy-en.txt
│       └── haproxy-fr.txt
├── sbin
│   └── haproxy
└── share
    └── man
        └── man1
            └── haproxy.1
6 directories, 6 files

三、修改haproxy相关系统配置

1、生成配置文件

[[email protected] haproxy-1.5.18]# mkdir -p /usr/local/haproxy/conf
[[email protected] haproxy-1.5.18]# cp examples/haproxy.cfg /usr/local/haproxy/conf/

2、开启IPv4转发

[[email protected] conf]# sed -i ‘/net.ipv4.ip_forward/s/0/1/‘ /etc/sysctl.conf 
[[email protected] conf]# sysctl -p
net.ipv4.ip_forward = 1
net.ipv4.conf.default.rp_filter = 1
net.ipv4.conf.default.accept_source_route = 0
kernel.sysrq = 0
kernel.core_uses_pid = 1
net.ipv4.tcp_syncookies = 1
kernel.msgmnb = 65536
kernel.msgmax = 65536
kernel.shmmax = 68719476736
kernel.shmall = 4294967296
fs.file-max = 2097152
fs.nr_open = 2097152
net.ipv4.tcp_syncookies = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_keepalive_time = 1200
net.ipv4.ip_local_port_range = 1024 65000
net.ipv4.tcp_max_syn_backlog = 81920

3、创建haproxy相关目录

[[email protected] conf]# mkdir -p /usr/local/haproxy/logs
[[email protected] conf]# mkdir -p /usr/local/haproxy/var/{run,chroot}

4、创建haproxy用户

[[email protected] conf]# id haproxy
id: haproxy: No such user
[[email protected] conf]# useradd haproxy -s /sbin/nologin 
[[email protected] conf]# id haproxy
uid=606(haproxy) gid=606(haproxy) groups=606(haproxy)

5、配置rsyslog记录haproxy日志

在haproxy.cfg中global区域添加下面一行：

log 127.0.0.1  local0  warning

然后修改rsyslog配置文件rsyslog.conf:

[[email protected] conf]# echo -e "# Haproxy log setting\nlocal0.*  /usr/local/haproxy/logs/haproxy.log\n#End" >>/etc/rsyslog.conf 
[[email protected] conf]# tail -3 /etc/rsyslog.conf 
# Haproxy log setting
local0.*  /usr/local/haproxy/logs/haproxy.log
#End

再修改rsyslog的设置：

[[email protected] conf]# cp /etc/sysconfig/rsyslog /etc/sysconfig/rsyslog.bak$(date +%F)
[[email protected] conf]# vi /etc/sysconfig/rsyslog
[[email protected] conf]# tail -2 /etc/sysconfig/rsyslog
#SYSLOGD_OPTIONS="-c 5"
SYSLOGD_OPTIONS="-c 2 -m 0 -r -x"
[[email protected] conf]# diff /etc/sysconfig/rsyslog.bak2016-09-30 /etc/sysconfig/rsyslog
5c5,6
< SYSLOGD_OPTIONS="-c 5"
---
> #SYSLOGD_OPTIONS="-c 5"
> SYSLOGD_OPTIONS="-c 2 -m 0 -r -x"

此时，我们发现在CentOS 6.5上使用netstat命令无法显示514端口的监听状态，而使用lsof命令也无法查看端口514上的服务，如下：

[[email protected] ~]# netstat -lntup|grep 514
[[email protected] ~]# lsof -i :514
[[email protected] ~]#

然后还需要修改rsyslog.conf中的一个配置：

[[email protected] ~]# sed -i ‘/imudp/s/^#//‘ /etc/rsyslog.conf 
[[email protected] ~]# sed -i ‘/UDPServerRun 514/s/^#//‘ /etc/rsyslog.conf
[[email protected] ~]# grep imudp /etc/rsyslog.conf 
$ModLoad imudp
[[email protected] ~]# grep UDPServerRun /etc/rsyslog.conf 
$UDPServerRun 514

最后重启rsyslog服务：

[[email protected] conf]# /etc/init.d/rsyslog restart
Shutting down system logger:                               [  OK  ]
Starting system logger:                                    [  OK  ]

再次尝试去看一下514端口的监听状态和服务：

[[email protected] ~]# lsof -i :514
COMMAND   PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
rsyslogd 2436 root    3u  IPv4  24957      0t0  UDP *:syslog 
rsyslogd 2436 root    4u  IPv6  24958      0t0  UDP *:syslog 
[[email protected] ~]# netstat -tunlp|grep 514
udp        0      0 0.0.0.0:514                 0.0.0.0:*                               2436/rsyslogd       
udp        0      0 :::514                      :::*                                    2436/rsyslogd

四、编辑haproxy配置文件

下面给出基于tcp的haproxy代理的配置文件内容：

[[email protected] conf]# cat haproxy.cfg 
# this config needs haproxy-1.1.28 or haproxy-1.2.1
global    
     log 127.0.0.1  local0           #日志将记录在本机，通过local0设备输出
     log 127.0.0.1:514  local0  warning  #定义haproxy日志级别，这里是warning
     pidfile /usr/local/haproxy/var/run/haproxy.pid  #定义PID文件位置
     daemon    #以守护进程（后台）方式运行
     maxconn 20480   #默认的最大连接数，不能超过ulimit -n限制
     chroot /usr/local/haproxy/var/chroot  #设置chroot的运行路径，是一种安全策略
     user haproxy   #运行haproxy的用户
     group haproxy  #运行haproxy用户的组
     spread-checks 3
     nbproc 1       #设置进程数量
defaults
     logglobal
     retries3    #3次连接失败就认为是服务器不可用，也可以通过后面设置  
     option  redispatch    #当serverId对应的服务器挂掉后，强制定向到其他健康的服务器
     maxconn2000    #默认的最大连接数
     timeout connect 5000   #连接超时时长，单位为ms
     timeout client  50000  #客户端超时时长
     timeoutserver   50000  #服务器超时时长
listenssh
        bind  172.16.100.121:80   #绑定的IP和端口
        mode  tcp    #haproxy工作在http的7层模式中的哪一层，这里是tcp
        balance  roundrobin    #轮询
        timeout  server  15s  
        timeout  connect 30s
        server  mylinux3  192.168.100.181:22 check port 22  #后端服务器信息，IP和端口，还有检查端口
        server  mylinux4  192.168.100,182:22 check port 22

五、启动haproxy并测试

1、启动haproxy

使用以下命令测试haproxy的配置文件是否可用：

[[email protected] conf]# /usr/local/haproxy/sbin/haproxy -f haproxy.cfg -c
Configuration file is valid

然后使用如下命令启动haproxy：

[[email protected] conf]# /usr/local/haproxy/sbin/haproxy -f haproxy.cfg -D

可以通过下面的方法检查haproxy是否启动：

[[email protected] conf]# ps -ef|grep haproxy
haproxy    1550      1  0 18:25 ?        00:00:00 /usr/local/haproxy/sbin/haproxy -f haproxy.cfg -D
root       1553   1015  0 18:26 pts/1    00:00:00 grep haproxy
[[email protected] conf]# lsof -i :80
COMMAND  PID    USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
haproxy 1550 haproxy    4u  IPv4  12088      0t0  TCP 172.16.100.121:http (LISTEN)

2、测试haproxy代理ssh

上面的配置文件中，使用haproxy的eth1的地址172.16.100.121的80端口来代理后端mylinux3和mylinux4上的22端口，也就是ssh服务，这样只要客户端使用ssh 172.16.100.121的80端口就可以远程访问后端两台服务器的ssh服务了，下面来测试一下是否如预想的那样。

[[email protected] conf]# ssh -p80 172.16.100.121
The authenticity of host ‘[172.16.100.121]:80 ([172.16.100.121]:80)‘ can‘t be established.
RSA key fingerprint is ea:b0:45:d6:fa:48:60:41:a9:e4:f7:30:b9:ed:16:a4.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added ‘[172.16.100.121]:80‘ (RSA) to the list of known hosts.
[email protected]‘s password: 
Last login: Fri Sep 30 12:42:12 2016 from 192.168.100.1
[[email protected] ~]# hostname
mylinux4.contoso.com
[[email protected] ~]# ip a|grep 192.168.100
    inet 192.168.100.182/24 brd 192.168.100.255 scope global eth0

好的，成功的通过haproxy代理远程到了mylinux4这一台主机上。

再进行第二次测试之前，需要先清空known_hosts中的内容，不然会提示加密私钥改变，使用下面的命令处理一下：

[[email protected] conf]# >/root/.ssh/known_hosts

然后再次ssh 172.16.100.121的80端口，结果如下：

[[email protected] conf]# ssh -p80 172.16.100.121
The authenticity of host ‘[172.16.100.121]:80 ([172.16.100.121]:80)‘ can‘t be established.
RSA key fingerprint is 99:05:e5:e4:d3:78:bd:cf:94:e9:80:36:b5:5d:cc:11.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added ‘[172.16.100.121]:80‘ (RSA) to the list of known hosts.
[email protected]‘s password: 
Last login: Fri Sep 30 18:29:10 2016 from 192.168.100.121
[[email protected] ~]# hostname
mylinux3.contoso.com
[[email protected] ~]# ip a |grep 192.168.100
    inet 192.168.100.181/24 brd 192.168.100.255 scope global eth0

这次成功的远程到了mylinux3这台主机上，说明haproxy代理tcp服务成功。



本文出自 “IT小二郎” 博客，请务必保留此出处http://jerry12356.blog.51cto.com/4308715/1858204

以上是关于CentOS 6.5上部署Haproxy的主要内容，如果未能解决你的问题，请参考以下文章

Centos7部署HAProxy负载均衡策略

CentOS7上部署Haproxy+Nginx实现Web群集

CentOS 6.5上部署drbd

CentOS 6.5上部署Heartbeat

CentOS 6.5上部署drbd

centos7 部署haproxy