目录

  • 一、什么是粘包
  • 二、tcp发送数据的四种情况
  • 三、struct模块
  • 四、解决粘包问题
    • 4.1 简单版解决方案
    • 4.1 终极版解决方案(xc版本)

一、什么是粘包

粘包问题是所有语言中都会有的问题,因为只要使用了TCP协议,即使是通过socket编程也都会产生的问题。

注意:只有TCP有粘包现象,UDP永远不会粘包,为何,且听我娓娓道来。

首先需要掌握一个socket收发消息的原理

发送端可以是一K一K地发送数据,而接收端的应用程序可以两K两K地提走数据,当然也有可能一次提走3K或6K数据,或者一次只提走几个字节的数据,也就是说,应用程序所看到的数据是一个整体,或说是一个流(stream),一条消息有多少字节对应用程序是不可见的,因此TCP协议是面向流的协议,这也是容易出现粘包问题的原因。而UDP是面向消息的协议,每个UDP段都是一条消息,应用程序必须以消息为单位提取数据,不能一次提取任意字节的数据,这一点和TCP是很不同的。怎样定义消息呢?可以认为对方一次性write/send的数据为一个消息,需要明白的是当对方send一条信息的时候,无论底层怎样分段分片,TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区。

例如基于TCP的套接字客户端往服务端上传文件,发送时文件内容是按照一段一段的字节流发送的,在接收方看了,根本不知道该文件的字节流从何处开始,在何处结束。

所谓粘包问题主要还是因为接收方不知道消息之间的界限,不知道一次性提取多少字节的数据所造成的。

此外,发送方引起的粘包是由TCP协议本身造成的,TCP为提高传输效率,发送方往往要收集到足够多的数据后才发送一个TCP段。若连续几次需要send的数据都很少,通常TCP会根据优化算法把这些数据合成一个TCP段后一次发送出去,这样接收方就收到了粘包数据。

  • TCP(transport control protocol,传输控制协议)是面向连接的,面向流的,提供高可靠性服务。收发两端(客户端和服务器端)都要有一一成对的socket,因此,发送端为了将多个发往接收端的包,更有效的发到对方,使用了优化方法(Nagle算法),将多次间隔较小且数据量小的数据,合并成一个大的数据块,然后进行封包。这样,接收端,就难于分辨出来了,必须提供科学的拆包机制。 即面向流的通信是无消息保护边界的。
  • UDP(user datagram protocol,用户数据报协议)是无连接的,面向消息的,提供高效率服务。不会使用块的合并优化算法,, 由于UDP支持的是一对多的模式,所以接收端的skbuff(套接字缓冲区)采用了链式结构来记录每一个到达的UDP包,在每个UDP包中就有了消息头(消息来源地址,端口等信息),这样,对于接收端来说,就容易进行区分处理了。 即面向消息的通信是有消息保护边界的。
  • TCP是基于数据流的,于是收发的消息不能为空,这就需要在客户端和服务端都添加空消息的处理机制,防止程序卡住,而udp是基于数据报的,即便是你输入的是空内容(直接回车),那也不是空消息,udp协议会帮你封装上消息头,实验略

udp的recvfrom是阻塞的,一个recvfrom(x)必须对唯一一个sendinto(y),收完了x个字节的数据就算完成,若是y>x数据就丢失,这意味着udp根本不会粘包,但是会丢数据,不可靠

TCP的协议数据不会丢,没有收完包,下次接收,会继续上次继续接收,己端总是在收到ack时才会清除缓冲区内容。数据是可靠的,但是会粘包。

二、tcp发送数据的四种情况

假设客户端分别发送了两个数据包D1和D2给服务端,由于服务端一次读取到的字节数是不确定的,故可能存在以下4种情况。

  1. 服务端分两次读取到了两个独立的数据包,分别是D1和D2,没有粘包和拆包;
  2. 服务端一次接收到了两个数据包,D1和D2粘合在一起,被称为TCP粘包;
  3. 服务端分两次读取到了两个数据包,第一次读取到了完整的D1包和D2包的部分内容,第二次读取到了D2包的剩余内容,这被称为TCP拆包;
  4. 服务端分两次读取到了两个数据包,第一次读取到了D1包的部分内容D1_1,第二次读取到了D1包的剩余内容D1_2和D2包的整包。

特例:如果此时服务端TCP接收滑窗非常小,而数据包D1和D2比较大,很有可能会发生第五种可能,即服务端分多次才能将D1和D2包接收完全,期间发生多次拆包。

三、struct模块

使用方法:

import struct
#把一个数字打包成固定长度的4字节,得到字节格式数据
obj=struct.pack('i',1024) # 'i'是格式
print(obj)
print(len(obj))# 解包,得到元祖类型数据
l=struct.unpack('i',obj)[0]
print(l)

四、解决粘包问题

问题的根源在于,接收端不知道发送端将要传送的字节流的长度,所以解决粘包的方法就是围绕,如何让发送端在发送数据前,把自己将要发送的字节流总大小让接收端知晓,然后接收端来一个死循环接收完所有数据。

4.1 简单版解决方案

服务器:

import socket
import subprocess
import struct
HOST = "192.168.11.237"
PORT = 8082soc = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
soc.bind((HOST,PORT))
soc.listen(5)while 1:print("等待连接。。。")conn,addr = soc.accept()print("连接成功。。。\n")while 1:try:data = conn.recv(1024)if len(data)==0:    # 长度0说明断开了连接。在windows中没用,在linux中才有用break# 把执行正确的内容放到管道中obj = subprocess.Popen(str(data, encoding="utf8"), shell=True, stdout=subprocess.PIPE,stderr=subprocess.PIPE)# 执行的结果 b 格式,gbk编码(windows平台)suc_data = obj.stdout.read()fail_data = obj.stderr.read()if suc_data:# 1.先打包数据长度,为四个字节,在发过去head = struct.pack("i", len(suc_data))conn.send(head)  # 作为头信息发过去,字节格式# 2.发真正的数据信息conn.send(suc_data)else:# 1.先打包数据长度,为四个字节,在发过去head = struct.pack("i", len(fail_data))conn.send(head)  # 作为头信息发过去,字节格式# 发错误信息conn.send(fail_data)except:print("客户机连接中断。。。")breakconn.close()soc.close()

客户端:

import socket
import struct
HOST = "192.168.11.237"
PORT = 8082soc = socket.socket()
soc.connect((HOST,PORT))while 1:try:cmd = input("请输入需要执行的命令")soc.send(cmd.encode("utf8"))# 1.得到数据的头信息并解包head = soc.recv(4)data_len = struct.unpack("i",head)[0]if head == 0:break# 2.根据头信息,拿到数据长度来接收数据str_data = b""while data_len:if data_len > 1024:data = soc.recv(1024)  # 你要接收的数据长度必须等于真实接收到的数据长度才可以停止str_data += datadata_len -= len(data)else:data = soc.recv(data_len)str_data += datadata_len -= len(data)print(str_data.decode("gbk"))except Exception as a:print("服务器关闭了:", a)break# 4.关闭连接
soc.close()

4.1 终极版解决方案(xc版本)

简单版解决方案确实能解决粘包问题,但是如果当要传输的数据太大则就会发生问题。下面给出我的解决方案

服务器:

import socket
import subprocess
import struct
import jsonHOST = "192.168.11.24"
PORT = 8080soc = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
soc.bind((HOST,PORT))
soc.listen(5)while 1:print("等待连接。。。")conn,addr = soc.accept()print(f"主机{addr}连接成功,准备接收消息中。。。")while 1:try:# 接收命令cmd = conn.recv(1024)# 处理命令obj = subprocess.Popen(cmd.decode("utf8"), shell=True, stdout=subprocess.PIPE,stderr=subprocess.PIPE)suc_data =  obj.stdout.read()fail_data = obj.stderr.read()if suc_data:# 1.先构造一个字典,把头信息放到字典中head_dic = {"data_size": len(suc_data), "md5":None, "file_name": None}# 2.对该字典序列化,得到字符串(json串)head_dic_json_byte = (json.dumps(head_dic)).encode("utf8")# 3.将 序列化后的字典 长度打包,作为头部head = struct.pack("i",len(head_dic_json_byte))# 4.先发头部conn.send(head)# 5.再发 序列化后的字典(字节类型)conn.send(head_dic_json_byte)# 6.最后再发真正的数据conn.send(suc_data)else:# 1.先构造一个字典,把头信息放到字典中head_dic = {"data_size": len(fail_data), "md5": None, "file_name": None}# 2.对该字典序列化,得到字符串(json串)head_dic_json_byte = (json.dumps(head_dic)).encode("utf8")# 3.将 序列化后的字典 长度打包,作为头部(字节类型)head = struct.pack("i", len(head_dic_json_byte))# 4.先发头部conn.send(head)# 5.再发 序列化后的字典(字节类型)conn.send(head_dic_json_byte)# 6.最后再发真正的数据conn.send(fail_data)except:print("客户机连接中断。。。\n")breakconn.close()soc.close()

客户端

import socket
import struct
import jsonHOST = "192.168.11.24"
PORT = 8080soc = socket.socket()
soc.connect((HOST,PORT))while 1:try:cmd = input("请输入需要执行的命令")soc.send(cmd.encode("utf8"))# 1.先拿到头数据,并解包head = soc.recv(4)head_dic_len = struct.unpack("i",head)[0]if len(head) == 0:  # 服务器关闭了break# 2.根据头字典长度拿到头字典信息,进行反序列化,拿到头字典head_dic_btye = soc.recv(head_dic_len)head_dic = json.loads(head_dic_btye)   # json可以直接反序列化bytes类型# 3.根据头字典中的数据长度拿到真正的数据data_len= head_dic.get("data_size")str_data = b""while data_len:if data_len > 1024:data = soc.recv(1024)  # 你要接收的数据长度必须等于真实接收到的数据长度才可以停止str_data += datadata_len -= len(data)else:data = soc.recv(data_len)str_data += datadata_len -= len(data)print(str_data.decode("gbk"))except Exception as a:print("服务器关闭了:", a)break# 4.关闭连接
soc.close()

转载于:https://www.cnblogs.com/XuChengNotes/p/11480768.html

103 解决粘包问题相关推荐

  1. 【Netty】Netty解决粘包和拆包问题的四种方案

    在RPC框架中,粘包和拆包问题是必须解决一个问题,因为RPC框架中,各个微服务相互之间都是维系了一个TCP长连接,比如dubbo就是一个全双工的长连接.由于微服务往对方发送信息的时候,所有的请求都是使 ...

  2. 10.python网络编程(解决粘包问题 part 2)

    一.什么时候会产生粘包现象. 只有在使用tcp协议的情况下才会产生粘包现象!udp协议永远不会! 发送端可以1k1k的把数据发送出去,接收端,可以2k2k的的去接收数据,一次可能会接收3k,也有可能1 ...

  3. Netty 解决粘包和拆包问题的四种方案

    点击上方蓝色"程序猿DD",选择"设为星标" 回复"资源"获取独家整理的学习资料! 来源 | https://my.oschina.net/ ...

  4. c# socket 解决粘包,半包

    处理原理: 半包:即一条消息底层分几次发送,先有个头包读取整条消息的长度,当不满足长度时,将消息临时缓存起来,直到满足长度再解码 粘包:两条完整/不完整消息粘在一起,一般是解码完上一条消息,然后再判断 ...

  5. Netty解决粘包和拆包问题的四种方案

    在RPC框架中,粘包和拆包问题是必须解决一个问题,因为RPC框架中,各个微服务相互之间都是维系了一个TCP长连接,比如dubbo就是一个全双工的长连接.由于微服务往对方发送信息的时候,所有的请求都是使 ...

  6. TCP 协议如何解决粘包、半包问题

    TCP 协议是流式协议 很多读者从接触网络知识以来,应该听说过这句话:TCP 协议是流式协议.那么这句话到底是什么意思呢?所谓流式协议,即协议的内容是像流水一样的字节流,内容与内容之间没有明确的分界标 ...

  7. websocket底层处理粘包_Socket解决粘包问题1

    粘包是指发送端发送的包速度过快,到接收端那边多包并成一个包的现象,比如发送端连续10次发送1个字符'a',因为发送的速度很快,接收端可能一次就收到了10个字符'aaaaaaaaaa',这就是接收端的粘 ...

  8. netty 高低位转码_Netty解决粘包和拆包问题的四种方案

    在RPC框架中,粘包和拆包问题是必须解决一个问题,因为RPC框架中,各个微服务相互之间都是维系了一个TCP长连接,比如dubbo就是一个全双工的长连接.由于微服务往对方发送信息的时候,所有的请求都是使 ...

  9. 缓冲区,粘包,解决粘包的方法,

    缓冲区:暂时存放传输数据的,防止你的程序在发送数据的时候卡主,提高代码运行效率 输入缓冲区:recv 输出缓冲区:send 缓冲区有长度限制 MTU最大传输单元,网络层限制是1500B,每次发送数据的 ...

  10. kafka是如何解决粘包拆包的

    本文来说下kafka是如何解决粘包拆包的 文章目录 概述 kakfa是如何解决粘包拆包问题的呢 本文小结 概述 前面笔者写了一篇文章一文讲清粘包拆包 全面的讲解了TCP粘包拆包相关的问题.下面进行一个 ...

最新文章

  1. 用C#生成随机中文汉字验证码的基本原理
  2. 适用于WIFI Hacking的无线网卡推荐
  3. think php ajax分页,thinkPHP5框架实现基于ajax的分页功能示例
  4. 密钥交换算法 - Java加密与安全
  5. hadoop.2.6.0安装hive.1.2.2
  6. 让java类继承TBase进行序列化
  7. java面试简历精通n_对标金九银十:各大厂最新Java面试真题整理+简历模板
  8. ICMP协议和ARP协议
  9. 模拟器修改hosts解析
  10. wordpress主题 Cosy主题3.X下载
  11. C#对.CSV格式的文件--逗号分隔值文件 的读写操作及上传ftp服务器操作方法总结
  12. java抽象类重载_012 JAVA 抽象类、接口、String类的基础了解
  13. 网络编程 多道技术与同步/异步和阻塞/非阻塞
  14. 安装Office 2016 出现 Office 16 Click-to-Run Extensibility Component
  15. Dremel和Hadoop
  16. 公众号模板消息 跳转小程序报错invalid weapp pagepath解决方法
  17. Python基础教程之Python简介
  18. python使用微信设置-用Python玩微信跳一跳黑科技详细使用教程
  19. 3GPP TS 23501-g51 中英文对照 | 5.2.3 Identification and authentication
  20. 手机中的便签如何保存到另一手机中

热门文章

  1. linux xfs 字体服务,Linux下Python和Tkin的字体管理
  2. 设计模式之GOF23外观模式
  3. pythonexcel怎么合并_Python把多个Excel合并成一个Excel
  4. html a 的写法,HTML超链接a标记CSS样式写法示例
  5. adminlte中数据表格datatable.js中的完整使用方法小案例
  6. Win 10 安装 Maven 与 Maven 知识点扫盲
  7. 阶段1 语言基础+高级_1-3-Java语言高级_06-File类与IO流_09 序列化流_6_练习_序列化集合...
  8. 数据结构代码学习笔记(持续更新中)
  9. PyTricks 翻译:Python 字典的 get() 方法和它的默认参数
  10. 一、 kettle开发、上线常见问题以及防错规范步骤