面试官常问TCP的可靠传输和提高网络利用率？拿下！

Posted 2021-09-04 你这家伙

前面讲到的TCP和UDP，在TCP的特性里面知道，他是有连接的，连接管理也是和可靠性是有一定关系的，那么他是如何建立连接，又是如何断开连接的呢？

1. 确认应答(ACK)机制

因为我TCP是面向字节流的，一次发的数据单位不是一个完整的数据包，而是若干个字节，因此TCP将每个字节的数据都进行了编号，即为序列号

2. 超时重传

上面的确认应答是理想状态，因为发的消息都能够确认收到答复，但是也存在发的消息没有收到，也就是没有发出去，这时候该怎么办呢？

主机A发送数据给B之后, 可能因为网络拥堵等原因, 数据无法到达主机B;
如果主机A在一个特定时间间隔内没有收到B发来的确认应答, 就会进行重发;

但是, 主机A未收到B发来的确认应答, 也可能是因为ACK丢失了;
（因此主机B会收到很多重复数据. 那么TCP协议需要能够识别出那些包是重复的包, 并且把重复的丢弃掉. 这时候我们可以利用前面提到的序列号, 就可以很容易做到去重的效果.）

**注意：**如果是主机B的确认应答包丢了，这时候主机A是不知道的，所以可能会发送多条1–1000的数据，但是尽管主机B接收了很多条消息，但是也是会自动按照消息的序号进行去重，所以最终当主机A成功接收到主机B的消息的时候，那也是1001，不会读到重复的消息。

那么问题来了

1)如果丢包了，那么需要等多久然后去第二次发送数据呢？

其实操作系统里面有一个专门的参数，来描述超时等待的时间（可以修改）

2)如果第二条消息也丢了，要不要接着发第三条消息呢？

其实重传的次数越多，从概率角度来看，后面的数据包丢包的概率就越小（假设每个包的丢包概率为10%，第一个包丢掉的概率就为10%，而第二个包丢包的概率为1%(10%*10%)）

3)如果发送第二个包的间隔时间为t1，发送第三个包的间隔时间为t2，那么t1和t2有什么关系呢？

其实态度不同，那么对待问题也就不同
①t1比t2断：悲观的态度，就是第一个包都没有传过去，第二个包能发送过去的概率也会很小……（第一次等待5分钟，第二次等待十分钟…）
②t1比t2长：乐观态度，想着第二次发送能够接收的概率很大（第一次等10分钟，第二次等5分钟）
③ti和t2一样长：这样也可以，就是平常心喽

最理想的情况下, 找到一个最小的时间, 保证 “确认应答一定能在这个时间内返回”.但是这个时间的长短, 随着网络环境的不同, 是有差异的.
如果超时时间设的太长, 会影响整体的重传效率;
如果超时时间设的太短, 有可能会频繁发送重复的包;

	TCP为了保证无论在任何环境下都能比较高性能的通信, 因此会动态计算这个最大超时时间.

Linux中(BSD Unix和Windows也是如此), 超时以500ms为一个单位进行控制, 每次判定超时重发的超时时间都是500ms的整数倍.
如果重发一次之后, 仍然得不到应答, 等待 2500ms 后再进行重传.
如果仍然得不到应答, 等待 4500ms 进行重传. 依次类推, 以指数形式递增.
累计到一定的重传次数, TCP认为网络或者对端主机出现异常, 强制关闭连接.

3)如果主机B接收到的主机A的消息不完整怎么办？

假如A向B发送的是1-50的数据，但是B只接收到了1-20，那么此时B就会向A发送一个21的确认序号，此时A还是会接着尝试向B发送21到50的数据，直到B向A发送的确认序号是51.

但是实际上系统上实现的是第一种方式，就是当等待时间超过一定的阙值之后，就不再尝试重传了，就认为这个连接已经断开了

3. 连接管理(三次握手四次挥手)

连接管理的目的(都是通过建立连接的方式实现的)

• 1.通信双方要验证自己的”发数据“和”收数据“能力是否正常
• 2.通信双方要在通信之前，来协商一些共同的参数

3.1 如何建立连接(三次握手)

1.通信双方要验证自己的”发数据“和”收数据“能力是否正常
双方进行一次交互就可以形象的理解为一次握手，当经历了三次握手之后，双方都可以确认，双方的话筒和听筒都能正常工作，也就是连接成功了，那么下面就可以正常的交互信息了

2.通信双方要在通信之前，来协商一些共同的参数

	那么问题来了~

能否两次握手或者四次握手呢？

四次握手可以但是没有必要
为什么两次捂手也不行呢？如客户端发出连接请求，但因连接请求报文丢失而未收到确认，于是客户端再重传一次连接请求。后来收到了确认，建立了连接。数据传输完毕后，就释放了连接，客户端共发出了两个连接请求报文段，其中第一个丢失，第二个到达了服务端，但是第一个丢失的报文段只是在某些网络结点长时间滞留了，延误到连接释放以后的某个时间才到达服务端，此时服务端误认为客户端又发出一次新的连接请求，于是就向客户端发出确认报文段，同意建立连接，不采用三次握手，只要服务端发出确认，就建立新的连接了，此时客户端忽略服务端发来的确认，也不发送数据，则服务端一致等待客户端发送数据，浪费资源。

3.1.1 三次握手客户端和服务器端状态的转换

客户端发送三次握手的流程：
通过Socket socket = new Socket(ip，port)，通过这一句代码来触发
当三次握手完成，new操作才能结束
如果三次握手出现问题，new操作直接抛出异常

3.2 如何断开连接(四次挥手)

建立连接一定是客户端发起的，但是断开连接可能是客户端发起的，也可能是服务器端发起的

断开连接意味着接下来就不会给对方发送任何消息了，对方收到这样的请求，就需要尽快处理剩余的数据

四次挥手同样也可能存在丢包，同样也会触发超时重传

3.2.1 四次挥手客户端和服务器端状态的转换

 谁主动断开连接，谁就进入TIME_WAIT，如果服务器端出现大量的TIME_WAIT状态，那么说明逻辑中是服务器主动断开了连接

四次挥手也可能是三次，上图有分析

4. 滑动窗口

存在问题：原有的超时重传和确认应答，影响了数据的传输效率，因为每次客户端要收到ACK之后再发下一份数据，就多了一些等待时间
解决方案：批量发送数据，批量接受ACK

滑动窗口就是为了提高TCP的传输效率，等待ACK的时间缩短了

4.1 什么是窗口

• 就是批量发送多少数据而无需等待，此时的这个数据的大小就成为“窗口”，例如上图的窗口大小为4000个字节（四个字段）

• 发送前四个段的时候, 不需要等待任何ACK, 直接发送;

• 收到第一个ACK后, 滑动窗口向后移动, 继续发送第五个段的数据; 依次类推;

• 操作系统内核为了维护这个滑动窗口, 需要开辟发送缓冲区来记录当前还有哪些数据没有应答; 只有确认应答过的数据, 才能从缓冲区删掉;

• 窗口越大, 则网络的吞吐率就越高，也就是传输效率更高;

这个窗口大小越大越好吗？
答：当然不是，因为发送方的发送速率收很多因素的影响，如果发的太快，造成一些丢包，还得重传，那还不如发慢些

4.2 如何滑动


注意：如果滑动传输过程中，出现数据包丢了怎么办，如何和超时重传结合起来？
ACK和数据报都有可能丢失，话不多说，直接看下面把~

4.2.1 滑动过程中ACK丢了怎么办

因为在滑动的过程中，每一个ACK里面都有一个确认序号，例如1001这个ACK确认序号丢了，但是2001这个ACK收到了，这个时候不需要重传1001这个ACK，因为确认序号指的是当前序号之前的数据都已经被确认收到了，那么也就是当主机A收到2001这个ACK的时候，就知道了1-2000的数据都已经正确到达了，此时收不收到1001这个ACK已经无关紧要了（后一个ACK能够覆盖前一个ACK）

注意：真实情况，TCP为了提高传输效率，甚至会故意不发一些ACK

4.2.2 如果数据包丢了怎么办？

当某一段报文段丢失之后, 发送端会一直收到 1001 这样的ACK, 就像是在提醒发送端 "我想要的是 1001"一样;
如果发送端主机连续三次收到了同样一个 “1001” 这样的应答, 就会将对应的数据 1001 - 2000 重新发送;这个时候接收端收到了 1001 之后, 再次返回的ACK就是7001了(因为2001 - 7000)接收端其实之前就已经收到了, 被放到了接收端操作系统内核的接收缓冲区中;

快速重传：前面发送的2001-7000这些数据不因为1001的丢包而重传一遍，这样的机制我们称为“快速重传”

5. 流量控制

滑动窗口的大小，决定了发送方的发送速率，这个速率不可能无限大
而下面的流量控制描述的就是接收方的处理能力，对于发送方传输效率的影响

5.1 为什么要有流量控制

因为当发送发发的太快，接受方处理不过来，那么也是没有用，所以接收方的接收能力影响发送方的发生速率
此时就需要进行流量控制，也就是接收方在ACK中带上建议的窗口大小，发送方就会按照这个大小来进行调整速率。

5.2 什么叫做流量控制

接收端处理数据的速度是有限的. 如果发送端发的太快, 导致接收端的缓冲区被打满, 这个时候如果发送端继续发送, 就会造成丢包, 继而引起丢包重传等等一系列连锁反应.
因此TCP支持根据接收端的处理能力, 来决定发送端的发送速度. 这个机制就叫做流量控制(Flow Control);

5.3 如何进行流量控制

• 接收端将自己可以接收的缓冲区大小放入 TCP 首部中的 “窗口大小” 字段, 通过ACK端通知发送端;
• 窗口大小字段越大, 说明网络的吞吐量越高;
• 接收端一旦发现自己的缓冲区快满了, 就会将窗口大小设置成一个更小的值通知给发送端;
• 发送端接受到这个窗口之后, 就会减慢自己的发送速度;
• 如果接收端缓冲区满了, 就会将窗口置为0; 这时发送方不再发送数据, 但是需要定期发送一个窗口探测数据段, 使接收端把窗口大小告诉发
  送端.
  
  具体分析：
  
  注意：接收端如何把窗口大小告诉发送端呢? 回忆我们的TCP首部中, 有一个16位窗口字段, 就是存放了窗口大小信息;那么问题来了, 16位数字最大表示65535, 那么TCP窗口最大就是65535字节么?实际上, TCP首部40字节选项中还包含了一个窗口扩大因子M, 实际窗口大小是窗口字段的值左移 M 位;

6. 拥塞控制

拥塞也会限制发送方的具体传输速率，根据当前网络的拥堵程度来决定传输速率的，因为互联网的情况很复杂，主机A把数据发送给主机B这个过程，会经历很多的交换机/路由器…，中间每个环节都有可能造成堵塞，这时候就需要放慢脚步（因为一旦触发超时重传，效率一定会收到影响）

虽然TCP有了滑动窗口这个大杀器, 能够高效可靠的发送大量的数据. 但是如果在刚开始阶段就发送大量的数据, 仍然可能引发问题.

6.1 如何解决拥塞控制？

就是“试探”性的找到一个合适的窗口大小，刚开始使用一个比较小的窗口来发送，如果发现没有丢包，就认为网络畅通，于是就开始逐渐扩大传输窗口，一旦发现丢包发生了，就认为网络出现拥堵，就减小窗口（窗口大小在拥塞控制的影响下在一直动态变换，逐渐达到一个平衡的状态）

滑动窗口是为了提高效率，但是滑动窗口如果窗口太大，返回会影响可靠性，流量控制和拥塞控制就是为了制约滑动窗口

发送方真实的发送窗口大小是由拥塞控制+流量控制共同决定的（去其中的较小值）

此处引入一个概念程为拥塞窗口
发送开始的时候, 定义拥塞窗口大小为1;
每次收到一个ACK应答, 拥塞窗口加1;
每次发送数据包的时候, 将拥塞窗口和接收端主机反馈的窗口大小做比较, 取较小的值作为实际发送的窗口;

像上面这样的拥塞窗口增长速度, 是指数级别的. "慢启动" 只是指初使时慢, 但是增长速度非常快.

为了不增长的那么快, 因此不能使拥塞窗口单纯的加倍.
此处引入一个叫做慢启动的阈值
当拥塞窗口超过这个阈值的时候, 不再按照指数方式增长, 而是按照线性方式增长

当TCP开始启动的时候, 慢启动阈值等于窗口最大值;
在每次超时重发的时候, 慢启动阈值会变成原来的一半, 同时拥塞窗口置回1;

7. 延迟应答

延迟应答的目的也是为了提高传输效率（从流量控制的角度进行制约）

延迟应答额本质在于尽可能的提升流量控制中的窗口大小，也就是稍微晚一些给出ACK。这样的话，在这时间间隔中，应用程序就会从缓冲区多消费一些数据（也就多腾出更多的空间了）

假设接收端缓冲区为1M. 一次收到了500K的数据; 如果立刻应答, 返回的窗口就是500K;
但实际上可能处理端处理的速度很快, 10ms之内就把500K数据从缓冲区消费掉了;
在这种情况下, 接收端处理还远没有达到自己的极限, 即使窗口再放大一些, 也能处理过来;
如果接收端稍微等一会再应答, 比如等待200ms再应答, 那么这个时候返回的窗口大小就是1M;

一定要记得, 窗口越大, 网络吞吐量就越大, 传输效率就越高. 我们的目标是在保证网络不拥塞的情况下尽量提高传输效率;

那么是所有的包都可以延迟应答么？
答：肯定也不是

• 数量限制：每隔N个包就应答一次
• 时间限制：超过最大延迟时间就应答一次
  （具体的数量和时间，操作系统不同也有差异; 一般N取2, 超时时间取200ms;）

8.捎带应答

在延迟应答的基础上，进一步来提高程序的执行效率

例如上面的四次挥手为什么可以是三次，如果不懂的可以返回去看看

9. 面向字节流—粘包问题

因为TCP是面向字节流的，所以就不可能解决粘包问题

创建一个TCP的socket, 同时在内核中创建一个 发送缓冲区 和一个 接收缓冲区;

• 调用write时, 数据会先写入发送缓冲区中;
• 如果发送的字节数太长, 会被拆分成多个TCP的数据包发出;
• 如果发送的字节数太短, 就会先在缓冲区里等待, 等到缓冲区长度差不多了, 或者其他合适的时机发送出去;
• 接收数据的时候, 数据也是从网卡驱动程序到达内核的接收缓冲区;
• 然后应用程序可以调用read从接收缓冲区拿数据;
• 另一方面, TCP的一个连接, 既有发送缓冲区, 也有接收缓冲区, 那么对于这一个连接, 既可以读数据, 也可以写数据. 这个概念叫做 全双工

由于缓冲区的存在, TCP程序的读和写不需要一一匹配, 例如: 写100个字节数据时, 可以调用一次write写100个字节, 也可以调用100次write, 每次写一个字节; 读100个字节数据时, 也完全不需要考虑写的时候是怎么写的, 既可以一次read 100个字节, 也可以一次
read一个字节, 重复100次;

对于UDP协议来说，是否存在“粘包问题”呢？
答：UDP没有这个问题，因为UDP是以数据报为单位进行传输的，UDP内部已经帮你搞定包的边界了（DatagramPacket 对象就是传输单位），对于UDP, 如果还没有上层交付数据, UDP的报文长度仍然在. 同时, UDP是一个一个把数据交付给应用层，就有很明确的数据边界，站在应用层的站在应用层的角度, 使用UDP的时候, 要么收到完整的UDP报文, 要么不收. 不会出现"半个"的情况

10. TCP异常情况

• 进程终止：如果进程终止，进程在终止的过程中就会触发四次挥手
• 机器重启：机器重启的时候本质上先强制终止进程，所以仍然会触发四次挥手
• 机器掉电：
  1. 接收方掉电：这种情况来的太突然，于是程序来不及反应就没了，（比如：A掉电了，B给A发消息，此时不可能有ACK，B就会触发超时重传，重传一定次数之后，B就会认为连接终端，还会尝试重新建立连接（复位报文段RST），由于A掉电，重新建立连接失败，最终B会放弃A）
  2. 发送方掉电：（A如果掉电，此时就无法给B发送数据了，B始终在等待A的数据，但是A什么时候来，B也无从知晓，难道B就一直等吗？）其实TCP内置了一个定时器，这个定时器会周期性的给对方发送一个“心跳包”，（此时B给A发送一个心跳包，因为此时A是掉电的，也就是没有心跳，无法给B恢复一个心跳包，当B收不到心跳包若干时间之后，就会认为A挂了，就会触发复位连接流程（RST），如果再次失败，那就回放弃A）。

11. TCP和UDP的对比

UDP的效率比TCP的要高，因为TCP保证可靠的传输过程中，效率收到了很大的制约，但是TCP更可靠

11.1 什么场景下使用TCP/UDP？

1. 如果需要可靠传输，优先考虑TCP
2. 如果单个数据报太大，优先考虑TCP
3. 如果对可靠性要求不高，对于传输的效率很高，使用UDP（如：学校机房，大家都在同一个机房内，丢包的概率很小）

有没有那些情况，既要求可靠性，又要求效率呢？

答：有，但是TCP和UDP都搞不定，需要使用其他协议，如：quic，enet，udt，kcp……