50%运维都迷糊的Socket基础知识!

Posted 运维社区

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了50%运维都迷糊的Socket基础知识!相关的知识,希望对你有一定的参考价值。


一起来看看一个热爱探索的运维小白如何一步步掌握Socket相关的知识。


分享嘉宾


赵舜东  DevOps学院创始人


     花名:“赵班长”,曾在武警某部负责指挥自动化的架构和运维工作,2008年退役后一直从事互联网运维工作,历任运维工程师、运维经理、运维架构师、运维总监。UnixHot运维社区创始人、中国SaltStack用户组发起人、《SaltStack入门与实践》作者、《运维知识体系》和《缓存知识体系》作者、Exin DevOps Master授权讲师、GOPS金牌讲师。


什么是Socket?


大家都用电脑上网,当我们访问运维社区https://www.unixhot.com的时候,我们的电脑和运维社区的服务器就会创建一条Socket,我们称之为网络套接字。那么既然是网络通信,肯定是成对的。至少有一个客户端和服务端,我们称之为套接字对。


一个套接字对(socket pair)是一个定义该网络连接的两个端点的五元组,包括:

  1. 源端口

  2. 目的端口

  3. 类型:TCP or UDP

那么针对于HTTP请求来说,我们知道底层是建立了一条TCPSocket,那么TCP的套接字对就是一个四元组,因为协议已经确定了:


客户端的随机端口

为了更直观的认识这个TCP Socket,我们做一个小实验,我这里准备了两台服务器:

角色

端口

客户端

192.168.56.11

随机

服务端

192.168.56.12

9999

   当客户端192.168.56.11访问192.168.56.129999端口的时候,那么会选择一个随机端口来进行通信,那么这个随机端口,到底是从什么范围随机出来了呢,端口总有一个范围不可能无穷多的。

   50%运维都迷糊的Socket基础知识!

没错,是65536个。但是为什么我们经常看到网上说可用端口最大65535个呢,也就是2^16-1个。因为端口号是从0开始算的,0-65535那就是65536个。而0端口是保留端口,无论是TCP还是UDP都是不用使用的,当然这个是标准,那到底能不能监听端口0呢,下面我用一个python脚本,监听本地的端口0来试试。

[root@test ~]# catbind_port_zero.py

#!/usr/bin/env python

# -*- coding: utf-8 -*-

'''本脚本监听本地的127.0.0.1的端口0

探索端口0的奥秘'''

import socket

def bind_port_zero():

    ss = socket.socket(socket.AF_INET,socket.SOCK_STREAM)

    ss.bind(('127.0.0.0', 0))

    addr, port = ss.getsockname()

    ss.close()

    print(addr, port)

bind_port_zero()

执行脚本,看看到底能不能正常监听:

[root@test ~]# pythonbind_port_zero.py

('127.0.0.0', 53692)

[root@test ~]# pythonbind_port_zero.py

('127.0.0.0', 59444)

可以发现,可以正常监听,但是呢并没有监听到端口0。实验证明在Linux下如果在bind的时候指定端口0,那么由系统随机选择一个可用端口来bind

好的,我们现在知道了端口的范围0-65535,那么作为客户端访问其它服务端的时候,能用多少呢?并不是这个范围都可以用的。那么在Linux下我们可以这么获取本地的随机端口范围:

[root@test ~]# cat/proc/sys/net/ipv4/ip_local_port_range

32768     61000

    不要惊讶答案确实是3276861000,现在你应该明白,别人说的发10万并发进行压力测试代表什么意思了吧。至少默认情况下是无法实现的,读完这句话,是否有启发呢?并不是不能实现哦。


瓶颈真的只有随机端口范围吗?

刚才我们也看了,我们访问其它服务器,作为客户端,我们要使用一个随机端口,32768-61000,貌似也不少,当然你还可以修改它,扩大随机端口范围。例如我们使用nginx做反向代理负载均衡的时候,用户端和Nginx建立Socket进行通信,Nginx还需要和后端真实服务器也建立Socket进行通信,在高并发的场景下,这个随机端口肯定是一个瓶颈。但是真的只有随机端口范围是瓶颈吗?下面我们使用ab命令来对百度进行一次压力测试。

abApache的性能测试工具,可以模拟并发进行Web性能测试。在CenotOS下,你可以这样来安装:

[root@test ~]# yuminstall -y httpd-devel

按照咱们之前的认识,随机端口61000-32768=28232,那么我实验的机器是一台刚安装的系统,没有什么网络传输,即便有,我们创建2万个套接字对应该是没问题吧。事实真的如此吗?我们用实验来证明:


我们模拟发送2万个请求,2000的并发来测试百度:

[root@test ~]#ab -n 10000 -c 2000 https://www.baidu.com/

This isApacheBench, Version 2.3 <$Revision: 1430300 $>

Copyright 1996Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/

Licensed to TheApache Software Foundation, http://www.apache.org/

 

Benchmarkingwww.baidu.com (be patient)

socket: Toomany open files (24)

这不可能,为什么报错了?不要担心,报错我们很容易看懂了socket: Too many open files (24)

,不能打开太多的文件。我们使用ulimit来看看系统资源限制。

[root@test ~]# ulimit -a

core file size          (blocks, -c) 0

data seg size           (kbytes, -d) unlimited

scheduling priority             (-e) 0

file size               (blocks, -f) unlimited

pending signals                 (-i) 31219

max locked memory       (kbytes, -l) 64

max memory size         (kbytes, -m) unlimited

open files                      (-n) 1024

(省略部分输出)

没错,默认情况下,当前用户能够打开的文件数量最大是1024,但是这个和我们使用ab测试有什么关系呢?ab测试创建的不是socket吗?如果你不理解,那就要回归本质,想想我们刚刚学习Linux的时候,经常听到的一句Linux的思想“一切皆文件”!谁说socket不是一个文件呢?

我相信你知道怎么做了,你可以使用ulimit –n来修改当前用户、当前session的限制,也可以修改配置文件/etc/security/limits.conf来彻底解决这个问题,这也是进行系统性能调优的必备基础。



创建一条TCP Socket

好的,刚才只是一个小插曲,我们继续探索TCP Socket,光说不练是个棒槌。我们来创建一个套接字对看看:

服务端:

首先,我们在192.168.56.12上使用nc命令,来监听9999端口。

[root@192.168.56.12 ~]#nc -l -4 -p 9999 -k

[root@192.168.56.12 ~]#netstat -ntlp | grep 9999

tcp        0     0 0.0.0.0:9999     0.0.0.0:*      LISTEN     26789/n

客户端:

在客户端,同样使用nc命令来连接到服务端的9999端口。

[root@192.168.56.11 ~]#nc 192.168.56.12 9999

好的,现在你可以在客户端上输入任何的语言和服务端愉快的聊天了?不过这不是重点。


查看Socket

我们先来看看客户端的TCPSocket

[root@192.168.56.11 ~]#netstat -na | grep 9999

tcp    0     0 192.168.56.11:11525    192.168.56.12:9999     ESTABLISHED

服务端的TCP Socket

[root@192.168.56.12 ~]#netstat -na | grep 9999

tcp    0     0 0.0.0.0:9999           0.0.0.0:*               LISTEN    

tcp    0     0 192.168.56.12:9999     192.168.56.11:11525    ESTABLISHED

我相信你已经真正理解了Socket,剩下的就是无尽的想象,还记得TIME_WAIT吗?如果有大量的TIME_WAIT存在,那么这个套接字对是不释放的,不释放也就代表着占用一个,资源嘛,占用一个就少一个。怎么优化呢?且听下回分解!


使用伪终端发送数据

最后,留一个小彩蛋,除了使用nc进行数据发送之外,其实Linux还提供了一种称之为伪设备的方式,让我们来体验下/dev下面的tcp伪设备。/dev下面提供了很多的伪设备,比如tcp就可以用来直接进行远程端口的访问。

[root@192.168.56.11 ~]# echo"886" > /dev/tcp/192.168.56.12/9999

    赶紧看看服务端有没有收到886




牛人并不可怕,可怕的是牛人比我们还努力!




-


以上是关于50%运维都迷糊的Socket基础知识!的主要内容,如果未能解决你的问题,请参考以下文章

Linux都会学到哪些东西?运维呢?

不会 Python 的运维都将失业?(内含福利)

Linux运维都要会哪些shell编程技能?

python运维01-获取系统基础信息

生产环境出现事故,开发和运维都有责任,到底该谁背锅

运维需要学啥?