聊聊TCP的粘包、拆包以及解决方案

HarmonyOS设备开发

tcp的粘包和拆包问题往往出现在基于tcp协议的通讯中,比如rpc框架、netty等。如果你的简历中写了类似的技术或者你所面试的公司使用了相关的技术,被问到该面试的几率会非常高。

[[386454]]

tcp的粘包和拆包问题往往出现在基于tcp协议的通讯中,比如rpc框架、netty等。如果你的简历中写了类似的技术或者你所面试的公司使用了相关的技术,被问到该面试的几率会非常高。

今天这篇文章就带大家详细了解一下tcp的粘包和拆包以及解决方案。

什么是粘包?

在学习粘包之前,先纠正一下读音,很多视频教程中将“粘”读作“nián”。经过调研,个人更倾向于读“zhān bāo”。

如果在百度百科上搜索“粘包”,对应的读音便是“zhān bāo”,语义解释为:网络技术术语。指tcp协议中,发送方发送的若干包数据到接收方接收时粘成一包,从接收缓冲区看,后一包数据的头紧接着前一包数据的尾。

tcp是面向字节流的协议,就是没有界限的一串数据,本没有“包”的概念,“粘包”和“拆包”一说是为了有助于形象地理解这两种现象。

为什么udp没有粘包?

粘包拆包问题在数据链路层、网络层以及传输层都有可能发生。日常的网络应用开发大都在传输层进行,由于udp有消息保护边界,不会发生粘包拆包问题,因此粘包拆包问题只发生在tcp协议中。

粘包拆包发生场景

因为tcp是面向流,没有边界,而操作系统在发送tcp数据时,会通过缓冲区来进行优化,例如缓冲区为1024个字节大小。

如果一次请求发送的数据量比较小,没达到缓冲区大小,tcp则会将多个请求合并为同一个请求进行发送,这就形成了粘包问题。

如果一次请求发送的数据量比较大,超过了缓冲区大小,tcp就会将其拆分为多次发送,这就是拆包。

关于粘包和拆包可以参考下图的几种情况:

粘包/拆包

上图中演示了以下几种情况:

  • 正常的理想情况,两个包恰好满足tcp缓冲区的大小或达到tcp等待时长,分别发送两个包;
  • 粘包:两个包较小,间隔时间短,发生粘包,合并成一个包发送;
  • 拆包:一个包过大,超过缓存区大小,拆分成两个或多个包发送;
  • 拆包和粘包:packet1过大,进行了拆包处理,而拆出去的一部分又与packet2进行粘包处理。

常见的解决方案

对于粘包和拆包问题,常见的解决方案有四种:

  • 发送端将每个包都封装成固定的长度,比如100字节大小。如果不足100字节可通过补0或空等进行填充到指定长度;
  • 发送端在每个包的末尾使用固定的分隔符,例如\r\n。如果发生拆包需等待多个包发送过来之后再找到其中的\r\n进行合并;例如,ftp协议;
  • 将消息分为头部和消息体,头部中保存整个消息的长度,只有读取到足够长度的消息之后才算是读到了一个完整的消息;
  • 通过自定义协议进行粘包和拆包的处理。

netty对粘包和拆包问题的处理

netty对解决粘包和拆包的方案做了抽象,提供了一些解码器(decoder)来解决粘包和拆包的问题。如:

  • linebasedframedecoder:以行为单位进行数据包的解码;
  • delimiterbasedframedecoder:以特殊的符号作为分隔来进行数据包的解码;
  • fixedlengthframedecoder:以固定长度进行数据包的解码;
  • lenghtfieldbasedframedecode:适用于消息头包含消息长度的协议(最常用);

基于netty进行网络读写的程序,可以直接使用这些decoder来完成数据包的解码。对于高并发、大流量的系统来说,每个数据包都不应该传输多余的数据(所以补齐的方式不可取),lenghtfieldbasedframedecode更适合这样的场景。

小结

tcp协议粘包拆包问题是因为tcp协议数据传输是基于字节流的,它不包含消息、数据包等概念,需要应用层协议自己设计消息的边界,即消息帧(message framing)。如果应用层协议没有使用基于长度或者基于终结符息边界等方式进行处理,则会导致多个消息的粘包和拆包。

虽然很多框架中都有现成的解决方案,比如netty,但底层的原理我们还是要清楚的,而且还要知道有这么回事,才能更好的结合场景进行使用。