Qt编写图片及视频TCP/UDP网络传输

Posted 2021-03-23 feiyangqingyun

一、前言

很多年前就做过类似的项目，无非就是将本地的图片上传到服务器，就这么简单，其实用http的post上传比较简单容易，无需自定义协议，直接设置好二进制数据即可，而采用TCP或者UDP通信的话，必须自定义协议，因为不知道什么时候数据接收完了是完整的图片数据，可能同时在发送很多图片数据，而且还不能区分收到的图片是哪个客户端发来的，TCP长连接的话，还需要有心跳来检测连接，所以必须自定义一套协议来支撑通信，这套协议采用的是上海监管平台的通信协议格式，拓展性比较强，其中头部信息包括了类型+当前完整包的数据长度，这个类型就是通信协议的标识，这样下次来一个其他类型的比如楼宇对讲可以叫IDOOR，服务端根据这个标识就能知道采用何种解析算法来处理后面的数据，而当前完整包的数据长度可以用来处理收到的数据，只有该长度的数据才表示接收完成一个完整的图片数据，再去解码处理。当传输的图片到了一定速度的时候比如一秒钟传输20张图片，其实就相当于传输视频了，一般人的肉眼看到一秒钟20张图片基本上认识就是视频了。

TCP理论上是稳定的连接，不会丢包，也不会随便一个包插入到一个包的中间，肯定能保证一个数据包的完整性，TCP连接也分两种，一种是长连接，一旦连接了就一直通信，主要用在频繁通信的场景中比如实时上传，还有一种叫短连接，客户端发完数据或者服务端接收完数据就立即断开连接，主要用在不频繁的通信场景中比如报警上传，毕竟报警的情况在一天中很少发生，采用短连接为佳，可以省去很多系统的开销，Qt对TCP的通信也是封装的很好用，在一些小并发的就几个几十个连接的项目中，效率还是可以的，据说Qt5的QNetwork组件底层重新改写了，效率比Qt4更高一些，本人也没用去详细的查看对应的源码，只是听说。Qt的网络通信类，我们平时常用的就是三个：QTcpSocket客户端类、QTcpServer服务端类、QUdpSocket通信类，为啥没有QUdpServer类？其实UDP是无连接的通信，占用资源很小，他既可以是客户端也可以是服务端，如果要作为服务端则指定端口调用bind方法即可。本程序同时支持了TCP模式和UDP模式，实际测试下来，还是建议使用TCP模式，UDP模式由于无连接在短时间内发送大量的数据包发现会丢包，而且包的大小有限制，是65507字节，大约64K，所以UDP模式下实时传输的图片分辨率不能太大，实测640*480的视频文件还是挺好的，720P基本上有点惨，丢包好多，可能后期还需要从协议上改进处理。

本程序和协议约定的图片采用base64编码传输，接收到以后将base64字符串解码出来生成图片，QByteArray内置类toBase64方法转成base64编码的字符串，QByteArray::fromBase64方法将base64字符串还原成数据。在经过多次的实验以后统计的数据显示，编码解码的速度还可以，其中720P图片编码25ms-30ms、解码15ms-20ms，1080P图片编码35ms-40ms、解码25ms-30ms。总体上来说一秒钟传输25-30张图片和解码25-30张图片，还是没有什么问题的，只是走的CPU编码解码，如果开的通道数比较多的话，还是很耗CPU的，但是应付一些简单的应用场景还是如鱼得水毫无压力。

体验地址：https://pan.baidu.com/s/1bbL2ZughZAgfIGrexyN-9g 提取码：zkeh 文件名：bin_video_image.zip。

二、功能特点

1. 多线程收发图片数据和解析图片数据，不卡主界面。
2. 同时支持TCP和UDP两种模式，封装了TCP模式以及UDP模式的客户端类和服务端类。
3. 图片传输客户端同时支持发送到多个服务端，可以作为一个教师机同屏发送到多个学生机的应用场景。
4. 同时支持多个客户端同时往服务端发送图片，服务端每个连接都会自动开辟线程收发和解析图片数据。
5. 自定义label控件信号槽机制绘制图片，不卡主界面。
6. 自带心跳机制判断离线，自动重连服务器，可设置超时时间。
7. 每个消息都有唯一的消息标识uuid，服务端收到以后会返回对应的uuid消息表示收到，客户端可以根据此返回消息判断服务端解析成功，不用再发，这样可以确保发出去的数据服务器接收到了并解析成功。
8. 每个消息都有唯一的图片标识flag，相当于ID号，根据此标识判断需要解析显示到哪个界面。
9. 图片以base64的字符串格式发送，接收端接收到base64字符串的图片数据解码后重新生成图片。
10. 所有数据的收发都有信号发出去，方便输出查看。
11. 都提供单例类，方便只有一个的时候直接使用无需new。
12. 采用自定义的xml协议，可以自由拓展其他属性字段比如带上图片内容等。

三、通信协议

1. 采用TCP长连接和UDP协议可选，默认通信端口6000。
2. 采用自定义的xml通信协议。
3. 所有传输加20个字节头部：IIMAGE:0000000000000，IIMAGE:为固定头部，后面接13个字节的 内容的长度（含20个头部长度） 字符串。
4. 下面协议部分省略了头部字节。
5. 服务端返回的数据中的uuid是对应接收到的消息的uuid。
6. 服务端每次返回的时候都带了当前时间，可用于客户端校时。

客户端发送心跳
<?xml version="1.0" encoding="UTF-8"?>
<ImageClient Uuid="8AF12208-0356-434C-8A49-69A2170D9B5A" Flag="SHJC00000001">
    <ClientHeart/>
</ImageClient>

服务器收到心跳返回
<?xml version="1.0" encoding="UTF-8"?>
<ImageServer Uuid="8AF12208-0356-434C-8A49-69A2170D9B5A" NowTime="2019-12-05 16:37:47">
    Ok
</ImageServer>

客户端发送图片
<?xml version="1.0" encoding="UTF-8"?>
<ImageClient Uuid="66BCB44A-B567-48ED-8889-36B8FA6C4363" Flag="SHJC00000001">
    <ClientImage>图片base64编码后的字符串/9j/4AAQSkZJRgABAQEAYABgAAD/2wBDAAgGBgcGBQgHBwcJCQgKDBQNDAsLDBkSEw8UHRofHh0aHBwgJC4nICIsIxwcKDcpLDAxNDQ0Hyc5PTgyPC4zNDL/2wBDAQkJCQwLDBgNDRgyIRwhMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjL/wAARCAJAAtADASIAAhEBAxEB/8QAHwAAAQUBAQEB...nvWsQRlXA61mTjmtWcdazLgcmrQ0U2plSMKjpDE7UtFFAwxRRRQAUuKWigQlFFFLcD//2Q==</ClientImage>
</ImageClient>

服务端收到图片返回
<?xml version="1.0" encoding="UTF-8"?>
<ImageServer Uuid="66BCB44A-B567-48ED-8889-36B8FA6C4363" NowTime="2019-12-05 16:38:47">
    Ack
</ImageServer>

四、效果图

五、核心代码

//图片转base64字符串
QByteArray DeviceFun::getImageData2(const QImage &image)
{
    QByteArray imageData;
    QBuffer buffer(&imageData);
    image.save(&buffer, "jpg");
    imageData = imageData.toBase64();
    return imageData;
}

//base64字符串转图片
QImage DeviceFun::getImage(const QString &data)
{
    QByteArray imageData = QByteArray::fromBase64(data.toLatin1());
    QImage image;
    image.loadFromData(imageData);
    return image;
}

//客户端线程发送图片
void TcpImageClient::run()
{
    while(!stopped) {
        //这里采用线程去处理,其实完全可以用定时器搞定,毕竟tcp的write是异步的,操作系统自动调度
        //为了后期的拓展性,比如需要判断是否发送成功之类的,需要同步处理,所以改成的线程去处理
        //图片数据转成base64编码的数据也需要时间的,主要的耗时在转码
        //取出数据发送,这里需要加锁,避免正在插入数据
        if (isOk && images.count() > 0) {
            QMutexLocker locker(&mutexImage);
            QImage image = images.takeFirst();
            QString imageData = DeviceFun::getImageData(image);
            emit readyWrite(imageData);
        }

        //要稍微休息下,否则CPU会被一直占用
        msleep(1);
    }

    stopped = false;
}

//服务端线程解析图片
void TcpImageSocket::run()
{
    while(!stopped) {
        //这里采用线程去处理,其实完全可以用定时器搞定,毕竟tcp的write是异步的,操作系统自动调度
        //为了后期的拓展性,比如需要判断是否发送成功之类的,需要同步处理,所以改成的线程去处理
        //base64编码数据转图片数据也需要时间的,主要的耗时在转码
        //取出数据发送,这里需要加锁,避免正在插入数据
        if (imageFlags.count() > 0) {
            QMutexLocker locker(&mutexImage);
            QString imageFlag = imageFlags.takeFirst();
            QString imageData = imageDatas.takeFirst();
            QImage image = DeviceFun::getImage(imageData);
            emit receiveImage(imageFlag, image);
        }

        //要稍微休息下,否则CPU会被一直占用
        msleep(1);
    }

    stopped = false;
}

//客户端类使用方法
TcpImageClient *client = new TcpImageClient(this);
UdpImageClient *client = new UdpImageClient(this);
connect(widget, SIGNAL(receiveImage(QImage)), client, SLOT(append(QImage)));                
client->setServerIP("127.0.0.1");
client->setServerPort(6000);
client->start();

//服务端类使用方法
TcpImageServer *tcpServer = new TcpImageServer(this);
UdpImageServer *tcpServer = new UdpImageServer(this);
connect(tcpServer, SIGNAL(receiveImage(QString, QImage)), this, SLOT(receiveImage(QString, QImage)));