猿创征文|OpenCV编程——计算机视觉的登堂入室

Posted 振华OPPO

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了猿创征文|OpenCV编程——计算机视觉的登堂入室相关的知识,希望对你有一定的参考价值。

计算机视觉是一门研究如何使机器“看”的科学,更进一步的说,就是是指用摄像头和计算机代替人眼对目标进行识别、跟踪和测量等,并进一步做图像处理,使计算机处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取“信息”的人工智能系统。

图像和视频再当今的数字世界可谓无处不在,随着运算能力强劲而又实惠的计算设备的问世,创建复杂的图像应用从未像今天这般容易。市面上有众多的软件和库用于操作图像和视频,但是对于期望自己开发软件的人而言,OpenCV库是一款必备的工具。OpenCV(Open Source Computer Vision)是一个开放源代码的图像及视频分析库,它包含500多个优化过的算法。自1999年问世以来,它已经被计算机视觉领域的学者和开发人员视为首选工具。下面就一起进入计算机视觉的大门!

文章目录

一、接触图像

本章将带领你完成最基本的操作:读取、显示及保存图像。在着手开发前需要先安装库和一个顺手的IDE,这里推荐VS或者Qt。计算机视觉不依赖于特定的环境或操作系统。

  • opencv_core模块:包含核心功能,尤其是底层数据结构和算法函数。
  • opencv_imgproc模块:包含图像处理函数。
  • opencv_highgui模块:包含读写图像及视频的函数,以及操作图形用户界面函数。
  • opencv_features2d模块:包含兴趣点检测子、描述子以及兴趣点匹配框架。

下面开始读取我们准备的图像,然后设置窗口,接着在窗口中显示图像,不停等待用户键入退出:

cv::Mat image = cv::imread("/home/dzh/QtOpenCV/image.png", 1);
cv::namedWindow("Image");
cv::imshow("Image", image);
cv::waitKey(0);

下面我是在类中写的方法,读取文件夹中所有图像并依次显示出来。

二、操作像素

为了编写计算机视觉应用,年必须会存取图像的内容,如修改和创建图像。本章会教会你如何操作图像的基本像素,即所谓的像素。你将学会如何遍历一张图像并且处理其像素。opencv采用cv::Mat这个数据结构来表示图像的原因。矩阵的每个元素代表一个像素。对于灰度图像而言,像素由8位无符号数来表示,其中0代表黑色,255代表白色。彩色图像则需要3个颜色通道。

我们可以使用指针遍历图像,遍历图像的领域操作,进行简单的图像运算,定义感兴趣区域。

// 颜色缩减[指针遍历]
void MainWindow::colorReduce(cv::Mat &image, cv::Mat &result, int div) 
    // 行数
    int nl = image.rows;
    // 每行的元素个数(像素个数 x 通道数)
    int nc = image.cols * image.channels();
    // 左移位数
    int n = 0;
    // 遍历每一行
    for (int j = 0; j < nl; j++) 
        // 得到第j行的首地址
        uchar* data = image.ptr<uchar>(j);
        // 求解pow的反函数
        for (int k = 1; k <= 8; k++) 
            if (pow(2, k) == div) 
                n = k;
                break;
             else if (pow(2, k) > div) 
                n = k - 1;
                break;
            
        
        // 掩码左移
        uchar mask = 0xFF << n;
        for (int i = 0; i < nc; i++) 
//            data[i] = data[i] / div * div + div / 2;
            data[i] = (data[i] & mask) + div / 2;
        
    


// 图像运算
void MainWindow::imageProc(cv::Mat &image1, cv::Mat &image2, cv::Mat &result) 
    result = image1 * 0.8 + image2 * 0.2;


// 感兴趣区域
void MainWindow::imageROI(cv::Mat &image1, cv::Mat &image2) 
    // 相当于截取图像的一个区域
    cv::Mat roi = image1(cv::Rect(280, 260, image2.cols, image2.rows));
    cv::addWeighted(roi, 0.2, image2, 0.8, 0.1, roi);


三、基于类的图像处理

计算机视觉程序的质量与良好的编程习惯紧密相关。创建不含BUG的应用仅仅是开始,我们希望应用能够轻松应付新的需求。设计模式是软件工程中众所周知的概念。一个设计模式是一个可靠的、可重用的方案,用于解决软件设计中频繁出现的问题。首先是策略模式,使用控制器实现模块间通信,使用单件设计模式,使用MVC架构设计应用程序。

void Histogram1D::process() 
    cv::Mat image = cv::imread("/home/dzh/QtOpenCV/image.png");
    if (!image.data) 
        cout << "图像不存在" << endl;
        return;
     else 
        cout << "图像的宽度:" << image.cols << "图像的高度:" << image.rows << "像素总数:" << image.cols * image.rows << endl;
    
    Histogram1D hc;
    cv::Mat imageROI; // 获取感兴趣区域
    imageROI = image(cv::Rect(160, 300, 100, 120));
    int minSat = 65;  // 彩色直方图
    cv::MatND colorhist = hc.getHueHistogram(imageROI, minSat);
    ContentFinder finder;
    finder.setHistogram(colorhist);
    cv::Mat detect = cv::imread("/home/dzh/QtOpenCV/image.png");
    cv::imshow("Detect", detect);
    cv::Mat hsv;
    cv::cvtColor(image, hsv, CV_BGR2HSV);
    vector<cv::Mat> v;
    cv::split(hsv, v);
    cv::Mat result;
    cv::threshold(v[1], v[1], minSat, 255, cv::THRESH_BINARY);
    result = finder.find(hsv, 0.0f, 180.0f, channels, 1);
    cv::bitwise_and(result, v[1], result);
    cv::Rect rect(110, 260, 35, 40);
    cv::rectangle(image, rect, cv::Scalar(255, 255, 255));
    cv::TermCriteria criteria(cv::TermCriteria::MAX_ITER, 10, 0.01);
    cv::meanShift(result, rect, criteria);
//    cv::imshow("origin", colorhist);
    cv::imshow("output", result);
    cv::waitKey(0);

颜色空间转换效果图:

四、使用直方图统计像素

一个图像是由不同颜色值的像素组成的。像素值在图像中的分布情况是这幅图像的一个重要特征。可以计算并使用直方图来修改图像的外观。对于灰度图像,直方图相当于长度为256的数组,每个数组元素代表灰度值为当前下标的像素个数。

cv::Mat Histogram3D::getHistogramImage(cv::Mat &image) 
    // 先求取直方图(256x256x256)
    cv::MatND hist = getHistogram(image);
    // 设置最大值和最小值
    double maxVal = INT_MIN;
    double minVal = INT_MAX;
    // 创建显示图像256x256x3
    cv::Mat histImg(histSize[0], histSize[0], CV_8UC3, cv::Scalar(255, 255, 255));
    int hpt = static_cast<int>(0.9 * histSize[0]);
    // 3D->2D,可以减少一个维度
    vector<vector<float>> vec(3, vector<float>(256));
    // b通道
    for (int i = 0; i < 256; i++) 
        // g通道
        for (int j = 0; j < 256; j++) 
            // r通道
            for (int k = 0; k < 256; k++) 
                vec[0][i] += hist.at<float>(i, j, k);
                vec[1][j] += hist.at<float>(i, j, k);
                vec[2][k] += hist.at<float>(i, j, k);
            
        
    
    // 先遍历每一行
    for (int i = 0; i < vec.size(); i++) 
        // 对于每一行直方图取最大值和最小值
        cv::minMaxLoc(vec[i], &minVal, &maxVal, 0, 0);
        cout << "maxVal:" << maxVal <<",minVal:" << minVal << endl;
        // 再遍历每一列
        for (int j = 0; j < vec[i].size(); j++) 
            float val = vec[i][j];
            int intensity = static_cast<int>(val * hpt / maxVal);
            cv::Scalar color;
            color[i] = 255;
            cv::line(histImg, cv::Point(j, histSize[i]), cv::Point(j, histSize[i] - intensity), color);
        
    
    return histImg;

即使是最常用的640x480的图像,也有30万个像素,可想平时看视频时候的1080P和4K,那每秒都是30帧以上,每帧都几百万像素

五、基于形态学运算的图像变换

形态学滤波理论于上世纪90年代提出,被用于分析及处理离散图形。它定义了一系列运算,应用预定义的形状元素来变换一张图像。形状元素与像素相邻点相交的方式确定了运算结果。腐蚀和膨胀就是最基本的形态学运算。由于形态学滤波通常使用于二值图像,使用白色像素表示前景物体,使用黑色像素表示背景。开闭运算都是最基本的,这里我们演示下使用形态学滤波对图像进行边缘及角点检测。

cv::Mat MorphoFeatures::getEdges(cv::Mat &image) 
    // 得到梯度图
    cv::Mat result;
    cv::morphologyEx(image, result, cv::MORPH_GRADIENT, cv::Mat());
    // 阈值化得到二值图像
    applyThreshold(result);
    return result;


void MorphoFeatures::setThreshold(int value) 
    threshold = value;


cv::Mat MorphoFeatures::getCorners(cv::Mat &image) 
    cv::Mat result;
    cv::dilate(image, result, cross);
    cv::erode(result, result, diamond);

    cv::Mat result2;
    cv::dilate(image, result2, x);
    cv::erode(result2, result, square);

    cv::absdiff(result2, result, result);
    applyThreshold(result);
    return result;

使用自带函数可以轻松检测直线,角点需要定义4种结构元素:方形、菱形、十字形和X形。

可以使用分水岭算法对图像进行分割,还可以使用GrabCut算法提取前景物体。

六、图像滤波

滤波(Filtering)是信号处理及图像处理中的一个基本操作,旨在特定的应用程序中,选择性地提取图像中被认为传达重要信息的部分。滤波去除图像中的噪声,提取感兴趣的视觉特征,允许图像重采样。矩阵位于中心的元素对应的是滤波器当前正在处理的像素。这样的矩阵称为核(Kernel)或者掩码(Mask)。最常用的有:均值滤波、中值滤波、Sobel滤波和图像的拉普拉斯变换。

cv::Mat contoursInv;
cv::threshold(contours, contoursInv, 128, 255, cv::THRESH_BINARY_INV);
cv::imshow("Inv", contoursInv);
cv::Mat result1, result2;
cv::Sobel(image, result1, CV_8U, 1, 0, 3, 0.4, 128);
cv::Sobel(image, result2, CV_8U, 0, 1, 3, 0.4, 128);
cv::imshow("result1", result1);
cv::imshow("result2", result2);
cv::Mat sobelX, sobelY;
cv::Sobel(image, sobelX, CV_8U, 1, 0);
cv::Sobel(image, sobelY, CV_8U, 0, 1);
cv::Mat sobel;
sobel = sobelX + sobelY;
cv::imshow("Sobel", sobel);

下面从左上是原图,然后依次是均值滤波、中值滤波和sobel滤波后的结果,均值滤波一般都都会模糊图像,中值滤波去除噪声点非常有效,sobel算子广泛用于边缘或轮廓的检测。

七、检测并匹配特征点

在计算机视觉中兴趣点(也叫做关键点或特征点)的概念被大量用于解决物体识别、图像匹配、视觉跟踪和三维重建等问题。cv::cornerHarris检测Harris角点,当然Fast角点检测要更加快速。尺度不变的概念是指每个检测到的特征点都伴随着对应的尺寸因子,其中非常受欢迎的特征点:SURF特征点,它也是SIFT算法的高效变种。

在特征匹配中,特征描述子通常是N维向量,在光照以及少许透视变换的情况下很理想。检测特征点可以概述为:提取关键点,计算描述子。

// 计算Harris角点
void HarrisDetector::detect(cv::Mat &image) 
    cv::cornerHarris(image, cornerStrength, neighbourhood, aperture, k);
    double minStrength;
    cv::minMaxLoc(cornerStrength, &minStrength, &maxStregth);
    cv::Mat dilated;
    cv::dilate(cornerStrength, dilated, cv::Mat());
    cv::compare(cornerStrength, dilated, localMax, cv::CMP_EQ);


// 由Harris值获取角点图
cv::Mat HarrisDetector::getCornerMap(double qualityLevel) 
    cv::Mat cornerMap;
    threshold = qualityLevel * maxStregth;
    cv::threshold(cornerStrength, cornerTh, threshold, 255, cv::THRESH_BINARY);
    cornerTh.convertTo(cornerMap, CV_8U);
    cv::bitwise_and(cornerMap, localMax, cornerMap);
    return cornerMap;

当然以上特征点检测库函数并不在OpenCV中,由于专利原因被全部安排到扩展库中了。安装方法可以参考我的教程:ubuntu安装opencv_contrib扩展库,附踩坑+测试

当然计算机视觉是一个非常庞大的学科,本文限于篇幅只能讲解一二,感兴趣的同学可以再去读相关的书籍。现在CV主要任务是目标识别、目标检测和目标跟踪,网络结构也从传统的CNN变为了Transformer,人工智能的快速发展离不开CV,也离不开大家开源的贡献!

以上是关于猿创征文|OpenCV编程——计算机视觉的登堂入室的主要内容,如果未能解决你的问题,请参考以下文章

猿创征文 | 深入理解高并发编程 ~ 开篇

猿创征文|python求解四位数 青少年编程电子学会python编程等级考试三级真题解析2021年03月

猿创征文|python求解四位数 青少年编程电子学会python编程等级考试三级真题解析2021年03月

猿创征文|python二分查找解密 青少年编程电子学会python编程等级考试三级真题解析2021年03月

猿创征文|python二分查找解密 青少年编程电子学会python编程等级考试三级真题解析2021年03月

猿创征文|python读取CSV文件获取学号身高 青少年编程电子学会python编程等级考试三级真题解析2021年03月