被问到TCP的可靠传输和提高网络利用率?
Posted 你这家伙
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了被问到TCP的可靠传输和提高网络利用率?相关的知识,希望对你有一定的参考价值。
前面讲到的TCP和UDP,在TCP的特性里面知道,他是有连接的,连接管理也是和可靠性是有一定关系的,那么他是如何建立连接,又是如何断开连接的呢?
1. 确认应答(ACK)机制
因为我TCP是面向字节流的,一次发的数据单位不是一个完整的数据包,而是若干个字节,因此TCP将每个字节的数据都进行了编号,即为序列号
2. 超时重传
上面的确认应答是理想状态,因为发的消息都能够确认收到答复,但是也存在发的消息没有收到,也就是没有发出去,这时候该怎么办呢?
主机A发送数据给B之后, 可能因为网络拥堵等原因, 数据无法到达主机B;
如果主机A在一个特定时间间隔内没有收到B发来的确认应答, 就会进行重发;
但是, 主机A未收到B发来的确认应答, 也可能是因为ACK丢失了;
(因此主机B会收到很多重复数据. 那么TCP协议需要能够识别出那些包是重复的包, 并且把重复的丢弃掉. 这时候我们可以利用前面提到的序列号, 就可以很容易做到去重的效果.)
**注意:**如果是主机B的确认应答包丢了,这时候主机A是不知道的,所以可能会发送多条1–1000的数据,但是尽管主机B接收了很多条消息,但是也是会自动按照消息的序号进行去重,所以最终当主机A成功接收到主机B的消息的时候,那也是1001,不会读到重复的消息。
那么问题来了
1)如果丢包了,那么需要等多久然后去第二次发送数据呢?
其实操作系统里面有一个专门的参数,来描述超时等待的时间(可以修改)
2)如果第二条消息也丢了,要不要接着发第三条消息呢?
其实重传的次数越多,从概率角度来看,后面的数据包丢包的概率就越小(假设每个包的丢包概率为10%,第一个包丢掉的概率就为10%,而第二个包丢包的概率为1%(10%*10%))
3)如果发送第二个包的间隔时间为t1,发送第三个包的间隔时间为t2,那么t1和t2有什么关系呢?
其实态度不同,那么对待问题也就不同
①t1比t2断:悲观的态度,就是第一个包都没有传过去,第二个包能发送过去的概率也会很小……(第一次等待5分钟,第二次等待十分钟…)
②t1比t2长:乐观态度,想着第二次发送能够接收的概率很大(第一次等10分钟,第二次等5分钟)
③ti和t2一样长:这样也可以,就是平常心喽
最理想的情况下, 找到一个最小的时间, 保证 “确认应答一定能在这个时间内返回”.但是这个时间的长短, 随着网络环境的不同, 是有差异的.
如果超时时间设的太长, 会影响整体的重传效率;
如果超时时间设的太短, 有可能会频繁发送重复的包;
TCP为了保证无论在任何环境下都能比较高性能的通信, 因此会动态计算这个最大超时时间.
Linux中(BSD Unix和Windows也是如此), 超时以500ms为一个单位进行控制, 每次判定超时重发的超时时间都是500ms的整数倍.
如果重发一次之后, 仍然得不到应答, 等待 2500ms 后再进行重传.
如果仍然得不到应答, 等待 4500ms 进行重传. 依次类推, 以指数形式递增.
累计到一定的重传次数, TCP认为网络或者对端主机出现异常, 强制关闭连接.
3)如果主机B接收到的主机A的消息不完整怎么办?
假如A向B发送的是1-50的数据,但是B只接收到了1-20,那么此时B就会向A发送一个21的确认序号,此时A还是会接着尝试向B发送21到50的数据,直到B向A发送的确认序号是51.
但是实际上系统上实现的是第一种方式,就是当等待时间超过一定的阙值之后,就不再尝试重传了,就认为这个连接已经断开了
3. 连接管理(三次握手四次挥手)
连接管理的目的(都是通过建立连接的方式实现的)
- 1.通信双方要验证自己的”发数据“和”收数据“能力是否正常
- 2.通信双方要在通信之前,来协商一些共同的参数
3.1 如何建立连接(三次握手)
1.通信双方要验证自己的”发数据“和”收数据“能力是否正常
双方进行一次交互就可以形象的理解为一次握手,当经历了三次握手之后,双方都可以确认,双方的话筒和听筒都能正常工作,也就是连接成功了,那么下面就可以正常的交互信息了
2.通信双方要在通信之前,来协商一些共同的参数
那么问题来了~
能否两次握手或者四次握手呢?
四次握手可以但是没有必要
为什么两次捂手也不行呢?如客户端发出连接请求,但因连接请求报文丢失而未收到确认,于是客户端再重传一次连接请求。后来收到了确认,建立了连接。数据传输完毕后,就释放了连接,客户端共发出了两个连接请求报文段,其中第一个丢失,第二个到达了服务端,但是第一个丢失的报文段只是在某些网络结点长时间滞留了,延误到连接释放以后的某个时间才到达服务端,此时服务端误认为客户端又发出一次新的连接请求,于是就向客户端发出确认报文段,同意建立连接,不采用三次握手,只要服务端发出确认,就建立新的连接了,此时客户端忽略服务端发来的确认,也不发送数据,则服务端一致等待客户端发送数据,浪费资源。
3.1.1 三次握手客户端和服务器端状态的转换
客户端发送三次握手的流程:
通过Socket socket = new Socket(ip,port),通过这一句代码来触发
当三次握手完成,new操作才能结束
如果三次握手出现问题,new操作直接抛出异常
3.2 如何断开连接(四次挥手)
建立连接一定是客户端发起的,但是断开连接可能是客户端发起的,也可能是服务器端发起的
断开连接意味着接下来就不会给对方发送任何消息了,对方收到这样的请求,就需要尽快处理剩余的数据
四次挥手同样也可能存在丢包,同样也会触发超时重传
3.2.1 四次挥手客户端和服务器端状态的转换
谁主动断开连接,谁就进入TIME_WAIT,如果服务器端出现大量的TIME_WAIT状态,那么说明逻辑中是服务器主动断开了连接
四次挥手也可能是三次,上图有分析
4. 滑动窗口
存在问题:原有的超时重传和确认应答,影响了数据的传输效率,因为每次客户端要收到ACK之后再发下一份数据,就多了一些等待时间
解决方案:批量发送数据,批量接受ACK
滑动窗口就是为了提高TCP的传输效率,等待ACK的时间缩短了
4.1 什么是窗口
-
就是批量发送多少数据而无需等待,此时的这个数据的大小就成为“窗口”,例如上图的窗口大小为4000个字节(四个字段)
-
发送前四个段的时候, 不需要等待任何ACK, 直接发送;
-
收到第一个ACK后, 滑动窗口向后移动, 继续发送第五个段的数据; 依次类推;
-
操作系统内核为了维护这个滑动窗口, 需要开辟发送缓冲区来记录当前还有哪些数据没有应答; 只有确认应答过的数据, 才能从缓冲区删掉;
-
窗口越大, 则网络的吞吐率就越高,也就是传输效率更高;
这个窗口大小越大越好吗?
答:当然不是,因为发送方的发送速率收很多因素的影响,如果发的太快,造成一些丢包,还得重传,那还不如发慢些
4.2 如何滑动
注意:如果滑动传输过程中,出现数据包丢了怎么办,如何和超时重传结合起来?
ACK和数据报都有可能丢失,话不多说,直接看下面把~
4.2.1 滑动过程中ACK丢了怎么办
因为在滑动的过程中,每一个ACK里面都有一个确认序号,例如1001这个ACK确认序号丢了,但是2001这个ACK收到了,这个时候不需要重传1001这个ACK,因为确认序号指的是当前序号之前的数据都已经被确认收到了,那么也就是当主机A收到2001这个ACK的时候,就知道了1-2000的数据都已经正确到达了,此时收不收到1001这个ACK已经无关紧要了(后一个ACK能够覆盖前一个ACK)
注意:真实情况,TCP为了提高传输效率,甚至会故意不发一些ACK
4.2.2 如果数据包丢了怎么办?
当某一段报文段丢失之后, 发送端会一直收到 1001 这样的ACK, 就像是在提醒发送端 "我想要的是 1001"一样;
如果发送端主机连续三次收到了同样一个 “1001” 这样的应答, 就会将对应的数据 1001 - 2000 重新发送;这个时候接收端收到了 1001 之后, 再次返回的ACK就是7001了(因为2001 - 7000)接收端其实之前就已经收到了, 被放到了接收端操作系统内核的接收缓冲区中;
快速重传:前面发送的2001-7000这些数据不因为1001的丢包而重传一遍,这样的机制我们称为“快速重传”
5. 流量控制
滑动窗口的大小,决定了发送方的发送速率,这个速率不可能无限大
而下面的流量控制描述的就是接收方的处理能力,对于发送方传输效率的影响
5.1 为什么要有流量控制
因为当发送发发的太快,接受方处理不过来,那么也是没有用,所以接收方的接收能力影响发送方的发生速率
此时就需要进行流量控制,也就是接收方在ACK中带上建议的窗口大小,发送方就会按照这个大小来进行调整速率。
5.2 什么叫做流量控制
接收端处理数据的速度是有限的. 如果发送端发的太快, 导致接收端的缓冲区被打满, 这个时候如果发送端继续发送, 就会造成丢包, 继而引起丢包重传等等一系列连锁反应.
因此TCP支持根据接收端的处理能力, 来决定发送端的发送速度. 这个机制就叫做流量控制(Flow Control);
5.3 如何进行流量控制
- 接收端将自己可以接收的缓冲区大小放入 TCP 首部中的 “窗口大小” 字段, 通过ACK端通知发送端;
- 窗口大小字段越大, 说明网络的吞吐量越高;
- 接收端一旦发现自己的缓冲区快满了, 就会将窗口大小设置成一个更小的值通知给发送端;
- 发送端接受到这个窗口之后, 就会减慢自己的发送速度;
- 如果接收端缓冲区满了, 就会将窗口置为0; 这时发送方不再发送数据, 但是需要定期发送一个窗口探测数据段, 使接收端把窗口大小告诉发
送端.
具体分析:
注意:接收端如何把窗口大小告诉发送端呢? 回忆我们的TCP首部中, 有一个16位窗口字段, 就是存放了窗口大小信息;那么问题来了, 16位数字最大表示65535, 那么TCP窗口最大就是65535字节么?实际上, TCP首部40字节选项中还包含了一个窗口扩大因子M, 实际窗口大小是窗口字段的值左移 M 位;
6. 拥塞控制
拥塞也会限制发送方的具体传输速率,根据当前网络的拥堵程度来决定传输速率的,因为互联网的情况很复杂,主机A把数据发送给主机B这个过程,会经历很多的交换机/路由器…,中间每个环节都有可能造成堵塞,这时候就需要放慢脚步(因为一旦触发超时重传,效率一定会收到影响)
虽然TCP有了滑动窗口这个大杀器, 能够高效可靠的发送大量的数据. 但是如果在刚开始阶段就发送大量的数据, 仍然可能引发问题.
6.1 如何解决拥塞控制?
就是“试探”性的找到一个合适的窗口大小,刚开始使用一个比较小的窗口来发送,如果发现没有丢包,就认为网络畅通,于是就开始逐渐扩大传输窗口,一旦发现丢包发生了,就认为网络出现拥堵,就减小窗口(窗口大小在拥塞控制的影响下在一直动态变换,逐渐达到一个平衡的状态)
滑动窗口是为了提高效率,但是滑动窗口如果窗口太大,返回会影响可靠性,流量控制和拥塞控制就是为了制约滑动窗口
发送方真实的发送窗口大小是由拥塞控制+流量控制共同决定的(去其中的较小值)
此处引入一个概念程为拥塞窗口
发送开始的时候, 定义拥塞窗口大小为1;
每次收到一个ACK应答, 拥塞窗口加1;
每次发送数据包的时候, 将拥塞窗口和接收端主机反馈的窗口大小做比较, 取较小的值作为实际发送的窗口;
像上面这样的拥塞窗口增长速度, 是指数级别的. "慢启动" 只是指初使时慢, 但是增长速度非常快.
为了不增长的那么快, 因此不能使拥塞窗口单纯的加倍.
此处引入一个叫做慢启动的阈值
当拥塞窗口超过这个阈值的时候, 不再按照指数方式增长, 而是按照线性方式增长
当TCP开始启动的时候, 慢启动阈值等于窗口最大值;
在每次超时重发的时候, 慢启动阈值会变成原来的一半, 同时拥塞窗口置回1;
7. 延迟应答
延迟应答的目的也是为了提高传输效率(从流量控制的角度进行制约)
延迟应答额本质在于尽可能的提升流量控制中的窗口大小,也就是稍微晚一些给出ACK。这样的话,在这时间间隔中,应用程序就会从缓冲区多消费一些数据(也就多腾出更多的空间了)
假设接收端缓冲区为1M. 一次收到了500K的数据; 如果立刻应答, 返回的窗口就是500K;
但实际上可能处理端处理的速度很快, 10ms之内就把500K数据从缓冲区消费掉了;
在这种情况下, 接收端处理还远没有达到自己的极限, 即使窗口再放大一些, 也能处理过来;
如果接收端稍微等一会再应答, 比如等待200ms再应答, 那么这个时候返回的窗口大小就是1M;
一定要记得, 窗口越大, 网络吞吐量就越大, 传输效率就越高. 我们的目标是在保证网络不拥塞的情况下尽量提高传输效率;
那么是所有的包都可以延迟应答么?
答:肯定也不是
- 数量限制:每隔N个包就应答一次
- 时间限制:超过最大延迟时间就应答一次
(具体的数量和时间,操作系统不同也有差异; 一般N取2, 超时时间取200ms;)
8.捎带应答
在延迟应答的基础上,进一步来提高程序的执行效率
例如上面的四次挥手为什么可以是三次,如果不懂的可以返回去看看
9. 面向字节流—粘包问题
因为TCP是面向字节流的,所以就不可能解决粘包问题
创建一个TCP的socket, 同时在内核中创建一个 发送缓冲区 和一个 接收缓冲区;
- 调用write时, 数据会先写入发送缓冲区中;
- 如果发送的字节数太长, 会被拆分成多个TCP的数据包发出;
- 如果发送的字节数太短, 就会先在缓冲区里等待, 等到缓冲区长度差不多了, 或者其他合适的时机发送出去;
- 接收数据的时候, 数据也是从网卡驱动程序到达内核的接收缓冲区;
- 然后应用程序可以调用read从接收缓冲区拿数据;
- 另一方面, TCP的一个连接, 既有发送缓冲区, 也有接收缓冲区, 那么对于这一个连接, 既可以读数据, 也可以写数据. 这个概念叫做 全双工
由于缓冲区的存在, TCP程序的读和写不需要一一匹配, 例如: 写100个字节数据时, 可以调用一次write写100个字节, 也可以调用100次write, 每次写一个字节; 读100个字节数据时, 也完全不需要考虑写的时候是怎么写的, 既可以一次read 100个字节, 也可以一次
read一个字节, 重复100次;
对于UDP协议来说,是否存在“粘包问题”呢?
答:UDP没有这个问题,因为UDP是以数据报为单位进行传输的,UDP内部已经帮你搞定包的边界了(DatagramPacket 对象就是传输单位),对于UDP, 如果还没有上层交付数据, UDP的报文长度仍然在. 同时, UDP是一个一个把数据交付给应用层,就有很明确的数据边界,站在应用层的站在应用层的角度, 使用UDP的时候, 要么收到完整的UDP报文, 要么不收. 不会出现"半个"的情况
10. TCP异常情况
- 进程终止:如果进程终止,进程在终止的过程中就会触发四次挥手
- 机器重启:机器重启的时候本质上先强制终止进程,所以仍然会触发四次挥手
- 机器掉电:
- 接收方掉电:这种情况来的太突然,于是程序来不及反应就没了,(比如:A掉电了,B给A发消息,此时不可能有ACK,B就会触发超时重传,重传一定次数之后,B就会认为连接终端,还会尝试重新建立连接(复位报文段RST),由于A掉电,重新建立连接失败,最终B会放弃A)
- 发送方掉电:(A如果掉电,此时就无法给B发送数据了,B始终在等待A的数据,但是A什么时候来,B也无从知晓,难道B就一直等吗?)其实TCP内置了一个定时器,这个定时器会周期性的给对方发送一个“心跳包”,(此时B给A发送一个心跳包,因为此时A是掉电的,也就是没有心跳,无法给B恢复一个心跳包,当B收不到心跳包若干时间之后,就会认为A挂了,就会触发复位连接流程(RST),如果再次失败,那就回放弃A)。
11. TCP和UDP的对比
UDP的效率比TCP的要高,因为TCP保证可靠的传输过程中,效率收到了很大的制约,但是TCP更可靠
UDP的效率比TCP的要高,因为TCP保证可靠的传输过程中,效率收到了很大的制约,但是TCP更可靠
11.1 什么场景下使用TCP/UDP?
- 如果需要可靠传输,优先考虑TCP
- 如果单个数据报太大,优先考虑TCP
- 如果对可靠性要求不高,对于传输的效率很高,使用UDP(如:学校机房,大家都在同一个机房内,丢包的概率很小)
有没有那些情况,既要求可靠性,又要求效率呢?
答:有,但是TCP和UDP都搞不定,需要使用其他协议,如:quic,enet,udt,kcp……
以上是关于被问到TCP的可靠传输和提高网络利用率?的主要内容,如果未能解决你的问题,请参考以下文章