使用Java和OpenCV调用YOLOv3完成实施目标检测

Posted 2021-11-11 报错中.....

使用Java和OpenCV调用YOLOv3完成实施目标检测，识别到目标就将包含目标的图片保存下来，没有目标就不保存。详细代码以及步骤。

第一步:在IDEA中完成对OpenCV包的导入

        从官网上下载OpenCV：Releases - OpenCV。选择window版本下载，解压之后

把 opencv\\build\\目录下的java文件整个复制到项目文件下，名字随意。

         File>Project Structure>Libraries ，选择+号，选择java，之后选择jar包位置。导入即可。

 

 这里我已经导入过了。最后再配置dll

Run>Edit Configurations ，选中你所要配置的java文件，填入以下内容：

-Djava.library.path=$PROJECT_DIR$\\opencv\\x64 （64位选x64,32位选x86）

 第二步：完成目标检测

首先下载darknet:GitHub - pjreddie/darknet: Convolutional Neural Networks

为了方便操作，这里只需要将darknet的路径以及保存的图片路径修改为自己的即可。下边直接上代码。当然你也可以训练自己的YOLOv3模型来完成相关的操作。

主程序

import org.opencv.core.*;
import org.opencv.core.Point;
import org.opencv.dnn.Dnn;
import org.opencv.dnn.Net;
import org.opencv.imgcodecs.Imgcodecs;
import org.opencv.videoio.VideoCapture;

import javax.imageio.ImageIO;

import java.awt.image.BufferedImage;
import java.io.*;
import java.util.ArrayList;
import java.util.List;

import static org.opencv.dnn.Dnn.NMSBoxes;
import static org.opencv.highgui.HighGui.*;
import static org.opencv.highgui.HighGui.waitKey;
import static org.opencv.imgproc.Imgproc.*;
import static org.opencv.imgproc.Imgproc.FONT_HERSHEY_SIMPLEX;



public class VideoDet{
    final static String ROOTDIR = "E:\\\\ZxxProject\\\\darknet-master";   // 根路径
    final static float CONTHRES = 0.8f;  // 置信度阈值
    final static float NMSTHRES = 0.8f;   // iou阈值
    final static List<String> CLASSES = new ArrayList<>();  // 存放类别的列表集合（这里直接用的原模型，所以是80类）
    public static int count=0;//标记，用来间隔多少次来保存图片
    public static boolean judge=true;




    public static void main(String[] args) {
        System.loadLibrary(Core.NATIVE_LIBRARY_NAME);//必须要加，不然程序不可执行

        //配置 权重 图片路径 类别文件
        String modelConfiguration = ROOTDIR + "\\\\cfg\\\\yolov3.cfg"; // 模型配置文件
        String modelWeights = ROOTDIR + "\\\\yolov3.weights"; // 模型权重文件
        String classesFile = ROOTDIR + "\\\\data\\\\coco.names"; // 模型可识别类别的标签文件

        // 进入识别图片的方法
        try {
            detect_image(modelWeights, modelConfiguration, classesFile);
        } catch (Exception e) {
            e.printStackTrace();
        }

    }

 启动摄像头

public static void detect_image(String modelWeights, String modelConfiguration, String classesFile) throws Exception {

        // 使用字节输入流读取classesFile路径的文件(从硬盘读取数据到内存)
        InputStream inputStream = new FileInputStream(classesFile);
        int allByte = inputStream.available();
        byte[] bytes = new byte[allByte]; //通过调节allByte的值来完成每次读取多少字节，这里直接读完
        inputStream.read(bytes);
        String allContent = new String(bytes); // 文件中的所有内容
        String[] tempContent = allContent.trim().split("\\n"); // allContent去除首尾空格，再按换行符分割。

        // 遍历tempContent，添加到保存类别名的列表classes里。
        for(int i=0; i<tempContent.length; i++){
            CLASSES.add(tempContent[i]);
        }
        System.out.println(CLASSES.size());
        Net net =  Dnn.readNetFromDarknet(modelConfiguration, modelWeights);

        //打开摄像头
        VideoCapture cameraCapture = new VideoCapture(0);
        namedWindow("实时检测");
        int frame_width = (int) cameraCapture.get(3);
        int frame_height = (int) cameraCapture.get(4);


        Mat frame = new Mat();
        Size sz1 = new Size(frame_width, frame_height);

        while (judge) {


            cameraCapture.read(frame);
            count=count+1;
            System.out.println("-----------第"+count+"轮----------------");
            Mat blobImg = Dnn.blobFromImage(frame, 1.0F / 255.0F, sz1);
            net.setInput(blobImg);

            // 获取网络输出层信息（所有输出层的名字），设定并前向传播
            List<String> ln = net.getLayerNames(); // 获得YOLO各层的名字
            List<String> x = new ArrayList<>();
            List<List<Integer>> out = new ArrayList<>();
            List<Integer> temp = net.getUnconnectedOutLayers().toList(); // 获得未连接的输出层的索引列表
            out.add(temp);
            // out中存放的是一个List ,get(0)得到的就是list i 索引列表
            List<Integer> i = out.get(0);
            System.out.println(i.size()); // 3
            for (int a = 0; a < i.size(); a++) {
                String n = ln.get(i.get(a) - 1); // 输出层的名字
                x.add(n); // 找到所有的输出层
            }
            ln = x; // 给ln重新赋值

            // 矩阵列表 [Mat[...], Mat[...], Mat[...]]
            List<Mat> outs = new ArrayList<Mat>();
            net.forward(outs, ln); // ln此时为输出层的名字列表，向前传播，将得到的检测结果传入outs

            // 检测识别
            detection(frame, outs);
        }
   }

 检测摄像头中的目标

public static void detection(Mat frame, List<Mat> outs) {

        System.out.println("检测过程开始");
        List<Rect2d> boxes = new ArrayList<>(); // 矩形框列表
        List<Integer> classIds = new ArrayList<>(); // 类的序号列表
        List<Float> confidences = new ArrayList<>(); // 置信度列表
        List<Integer> indices = new ArrayList<>(); //数量标记

        MatOfRect2d newbox = new MatOfRect2d();
        MatOfFloat newconf = new MatOfFloat();
        MatOfInt ind = new MatOfInt();
        ind.fromList(indices);

        //TODO

        for (int i = 0; i < outs.size(); i++) {
            Mat mat = outs.get(i);
            // 循环每一个mat对象
            for (int j = 0; j < mat.rows(); j++) {
                int probaility_index = 5; // [x,y,h,w,c,class1,class2] 所以是标号5
                int size = (mat.cols() * mat.channels());
                float[] data = new float[size];
                mat.get(j, 0, data);
                float confidence = -1;//初始值设为-1，
                int classId = -1;
                // 按列循环
                for (int k = 0; k < mat.cols(); k++) {
                    if (k >= probaility_index && confidence < data[k]) {
                        confidence = data[k]; // 最大值付给confidence
                        classId = k - probaility_index; // 得到检测的类别索引
                    }
                }

                // 过滤掉置信度较小的检测结果
                if (confidence > 0.6) {
                    System.out.println("Result  Object:" + j);
                    for (int k = 0; k < mat.cols(); k++) {
                        if (data[k] > 0) {
                            System.out.println(" " + k + ":" + data[k]);
                        }
                    }
                    float x = data[0]; // centerX 矩形中心点的X坐标
                    float y = data[1]; // centerY 矩形中心点的Y坐标
                    float width = data[2]; // 矩形框的宽
                    float height = data[3]; //矩形框的高
                    float xLeftBottom = (x - width / 2) * frame.cols(); // 矩形左下角点的X坐标
                    float yLeftBottom = (y - height / 2) * frame.rows(); // 矩形左下角点的Y坐标
                    float xRightTop = (x + width / 2) * frame.cols(); // 矩形右上角点的X坐标
                    float yRightTop = (y + height / 2) * frame.rows(); // 矩形右上角点的Y坐标

                    // boxes主要包括左下角坐标与右上角坐标
                    boxes.add(new Rect2d(new Point(xLeftBottom, yLeftBottom), new Point(xRightTop, yRightTop)));
                    newbox.fromList(boxes);
                    confidences.add(confidence);
                    newconf.fromList(confidences);
                    classIds.add(classId);
                }
            }
        }

        //使用OpenCV的非极大抑制
        NMSBoxes(newbox, newconf, CONTHRES, NMSTHRES, ind);

        //当摄像头中无出现目标的时候，newbox/newconf.cols()==0，有目标则是1。
        if (newbox.cols() == 0 && newconf.cols() == 0) {
            imshow("实时检测", frame);
            waitKey(-1);
            return;
        }

        List<Integer> indices1 = ind.toList();
        List<Rect2d> bboxs1 = newbox.toList();
        List<Float> conf1 = newconf.toList();

        List<Mat> cutImages = new ArrayList<>();
        int a = 0;
        if (indices1.size() > 0) {
            for (int b = 0; b < indices1.size(); b++) {
                a = a + 1;
                Rect2d box = bboxs1.get(indices1.get(b));
                Point p1 = box.tl(); // 获得左 上角点
                Point p2 = box.br(); // 获得右下角点
                int classId = classIds.get(a - 1); // 得到类别序号
                float confidence = conf1.get(a - 1); // 得到置信度值
                // 在原图上绘制目标边框
                drawPic(classId, confidence, frame, p1, p2);
                cutImages.add(frame);
            }
        }
        System.out.println("cutImages" + cutImages);
        // 将含有目标的图片存入本地路径，无目标不保存
        String outputFilePath = "E:\\\\ZxxProject\\\\darknet-master\\\\imgRes";
        for (int i = 0; i < cutImages.size(); i++) {
            Mat mat = cutImages.get(i);

            //显示图片
            imshow("实时检测", mat); // 显示图片
            waitKey(-1);

            if (count % 10 == 0) {
                MatOfByte mob = new MatOfByte();
                Imgcodecs.imencode(".jpg", mat, mob);
                byte[] byteArray = mob.toArray();
                ByteArrayInputStream in = new ByteArrayInputStream(byteArray);
                try {
                    BufferedImage image = ImageIO.read(in);
                    OutputStream bOut = new FileOutputStream(outputFilePath + "/" + count + ".jpg");
                    ImageIO.write(image, "jpg", bOut);
                } catch (IOException e) {
                    e.printStackTrace();
                }
            }
        }
    }

绘制边框程序

public static void drawPic(int classId, float confidence, Mat im, Point p1, Point p2){
        String text;
        double x = p1.x; // p1 的 x 坐标
        double y = p1.y; // p1 的 y 坐标

        if(classId == 0){
            System.out.println("1");
            rectangle(im, p1, p2, new Scalar(0, 0, 255), 1);
            text = CLASSES.get(classId) + ":" + confidence;
            putText(im, text, new Point(x, y-5), FONT_HERSHEY_SIMPLEX, 0.3, new Scalar(0, 255, 0), 1);
        }else {
            System.out.println("2");
            rectangle(im, p1, p2, new Scalar(0, 255, 0), 1); // 画框
            text  = String.format("%s %f", CLASSES.get(classId), confidence); // 标签内容
            System.out.println(text);
            putText(im, text, new Point(x, y-5), FONT_HERSHEY_SIMPLEX, 0.5, new Scalar(0, 0, 255), 1);
        }
    }
}

第三步：结果

结果中可能出现的绘制的框过多的现象，代码还有许多优化的地方，可以在评论中留言。

参考文章

[1] opencv调用yolov3模型进行深度学习目标检测（Java版）_w112112_的博客-CSDN博客

[2] 使用python+opencv+yolov3实现实时目标检测_Lz~ryeom的博客-CSDN博客