python摸爬滚打之day28----黏包处理

1、缓冲区和subprocess模块

　　1.1  缓冲区( 当send()内容超过输入缓冲区大小或recv()接收内容超过输出缓冲区大小时旧版本(py3.4以前)是会直接报错的, py3.4以后如果出错内部机制会直接处理错误, 处理方式类似于sendall()的方式循环发送去缓存区. )

　　　　

 

 

 

 

 

 

 

 

 

　　每个 socket 被创建后，都会分配两个缓冲区，输入缓冲区和输出缓冲区。

　　write()/send() 并不立即向网络中传输数据，而是先将数据写入缓冲区中，再由TCP协议将数据从缓冲区发送到目标机器。一旦将数据写入到缓冲区，函数就可以成功返回，不管它们有没有到达目标机器，也不管它们何时被发送到网络，这些都是TCP协议负责的事情。

　　TCP协议独立于 write()/send() 函数，数据有可能刚被写入缓冲区就发送到网络，也可能在缓冲区中不断积压，多次写入的数据被一次性发送到网络，这取决于当时的网络情况、当前线程是否空闲等诸多因素，不由程序员控制。

　　read()/recv() 函数也是如此，也从输入缓冲区中读取数据，而不是直接从网络中读取。

　　2.2  解释器调用系统指令----> subprocess

import subprocess      # 解释器操作cmd的模块
recv_msg = input("输入cmd命令: ")
cmd_obj = subprocess.Popen(
    recv_msg,       # 输入的cmd指令,"dir", "ipconfig" ......
    shell=True,     # shell = True, 即相当于使用cmd窗口
    stdout=subprocess.PIPE,      # 标准输出信息都在PIPE管道中
    stderr=subprocess.PIPE,      # 出错信息也在PIPE管道中
)
cmd_msg = cmd_obj.stdout.read().decode("gbk")        # 对象调用里面的stdout属性, 并读取出来.(和计算机交互一般都以GBK编码解码)   
print(cmd_msg)

2、黏包

　　产生黏包的原因? 主要还是因为接收方不知道消息之间的界限，不知道一次性提取多少字节的数据所造成的

　　现象1: 连续send两个比较小点的数据时, 在网速各方面都很流畅情况下是不会产生黏包现象的(用time.sleep模拟), 当网速或其他原因造成上传速度变慢, TCP内部的Nagle算法和延迟ACK机制, 会减少大量小包的连续发送, 所以会将比较小的连续发送的数据合并成一个比较大的包, 这是第一种黏包;

　　现象2: send()给缓冲区扔了太多数据, 超过缓冲区的大小就会报错, 每个IP包一般最大为1500b, 如果超过这个值就会被拆包发送, 第一次剩下的数据有可能和第二次发送的数据一起连在一起被接收, 这就是第二种黏包;

3、如何解决黏包现象?

　　3.1 了解一下struct模块 ----> 其实就是定义一种结构，里面包含不同类型的数据(int,char,bool等等)，方便对某一结构对象进行处理。该模块的主要作用就是对python基本类型值与一个四位二进制数类型间的转化.

　　struct模块支持打包哪些数据类型?

　　struct.pack()  可以将struct支持的数据类型打包成一个对应长度二进制的数, 如果给 "int" 类型的数字打包的话, 结果就是一个4位二进制的数. 

　　struct.unpack()  将打包成的二进制数解包回来, 结果是一个元组. 

import struct
numb = 152856900
numb_bytes = struct.pack("i",numb)      # 把int 类型的numb打包成一个4位二进制的数(不管多大多小的数转化后的结果都是4位),
                                        # "i"表示是一个整数  b'Di\x1c\t'
print(numb_bytes)

numb = struct.unpack("i",numb_bytes)    # 结果是一个元组形式. (152856900,)
print(numb)

　　如何解决黏包现象?   ---->  让接收方知道自己要接收的字节流总长度, 然后按这个长度接收就行.

　　　　第一种方案: 发送方先把字节流的总长度发给接收方, 接收方在接到总长度后给发送方传达一个确认信息, 发送方开始传数据, 接收方循环接收数据, 直到接受到的字节总长度等于发送方发来的字节流总长度.

import socket
import subprocess


# 服务端(发送方)
server = socket.socket()
ip_port = ("192.168.12.42",8520)
server.bind(ip_port)
server.listen(4)
conn,addr = server.accept()

while 1:
    recv_msg = str(conn.recv(1024),"utf8")
    cmd_obj = subprocess.Popen(
        recv_msg,
        shell=True,
        stdout=subprocess.PIPE,
        stderr=subprocess.PIPE,
    )
    cmd_msg = cmd_obj.stdout.read() * 20
    cmd_msg_len = bytes(str(len(cmd_msg)),"utf8")
    conn.send(cmd_msg_len)              # 先发送一个总的字节长度
    has_send = 0
    while has_send < len(cmd_msg):      # 发送方循环发送
        every_send = cmd_msg[has_send:has_send + 1024]
        conn.send(every_send)
        has_send += len(every_send)


# 客户端(接收方)
client = socket.socket()
ip_port = ("192.168.12.42",8520)
client.connect(ip_port)

while 1:
    cmd_msg = bytes(input("请输入cmd指令: "),"utf8")
    client.send(cmd_msg)
    recv_msg_len = int(str(client.recv(1024),"utf8"))
    print(recv_msg_len)
    has_recv = bytes()              # 接收到总的字节流长度
    while len(has_recv) < recv_msg_len:         # 循环接收,直到字节流的长度相等
        has_recv += client.recv(1024)
    print(str(has_recv,"gbk"))
    print(len(has_recv))

　　　　第二种方案: 通过struck模块将需要发送的内容的长度进行打包，打包成一个4字节长度的数据发送到对端，对端只要取出前4个字节，然后对这四个字节的数据进行解包，拿到你要发送的内容的长度，然后通过这个长度来继续接收我们实际要发送的内容(不好理解看代码, 简单)。

import socket
import subprocess
import struct


# 客户端(发送方)
server = socket.socket()
ip_port = ("192.168.12.42",8520)
server.bind(ip_port)
server.listen(4)
conn,addr = server.accept()

while 1:
    recv_msg = str(conn.recv(1024),"utf8")
    cmd_obj = subprocess.Popen(
        recv_msg,
        shell=True,
        stdout=subprocess.PIPE,
        stderr=subprocess.PIPE,
    )
    cmd_msg = cmd_obj.stdout.read()
    numb_b = struct.pack("i",len(cmd_msg))
    conn.send(numb_b + cmd_msg)        # 把   总字节流长度 + 字节内容  发给接收方,接收方接收前4个字节拿到总字节长度, 
                                       #  然后按照总字节流长度来接收.


# 客户端(接收方)
import socket
import struct

client = socket.socket()
ip_port = ("192.168.12.42",8520)
client.connect(ip_port)

while 1:
    cmd_msg = bytes(input("请输入cmd指令: "),"utf8")
    client.send(cmd_msg)
    numb_b = client.recv(4)
    numb_len = struct.unpack("i",numb_b)[0]
    msg = client.recv(numb_len)
    print(str(msg,"gbk"))