虹软人脸识别 - faceId及IR活体检测的介绍

Posted 2021-03-22

前几天虹软推出了 android ArcFace 2.2版本的SDK，相比于2.1版本，2.2版本中的变化如下：

? VIDEO模式新增faceId（类似于之前文章中提到的trackId）
? 新增IR活体检测功能
? 新增IR、RGB的活体阈值设置

一、faceId介绍

1. 定义

在连续的视频帧中，当一个人脸进入视频画面直到离开，其faceId不变。

2. 应用场景举例

在门禁应用场景下，若一个人长时间停留在画面中，借助faceId的功能，在此人的人脸特征提取成功后，可不再对此人的后续人脸信息进行处理。

3. 注意事项

faceId在VIDEO模式下有意义；
faceId在IMAGE模式下无效。

二、 IR活体检测

1. 接口介绍

支持的颜色格式如下：
Windows: GRAY、DEPTH_U16、NV21、NV12、I420
Android: GRAY、DEPTH_U16、NV21
注：若图像数据的颜色格式不在上述列表中，必须对图像数据进行格式转换。

2. IR活体检测实现方案

? 单目摄像头检测方案（IR）

单目摄像头检测流程

注意：在Windows平台下，若通过OpenCV获取IR摄像头的图像数据，由于其颜色格式为BGR_24，不能用于IR活体检测，需要转成GRAY（或IR活体检测接口支持的其他颜色格式），但BGR_24数据可直接用于人脸检测。

? 双目摄像头检测方案（IR + RGB）

双目摄像头检测流程

人脸检测结果信息调整 ：若RGB摄像头和IR摄像头的成像不一致（存在偏移、旋转、镜像等问题），需要将传递给IR活体检测的人脸信息（人脸框、人脸角度）进行调整。

3. 双目IR活体检测遇到的坑

在双目的画面有明显的不一致的情况时，若我们直接把RGB摄像头的人脸检测结果用于IR活体检测，很有可能会报81925（人脸置信度低）错误。原来，摄像头回传的数据和我们直接看到的画面很可能是不一样的，我们看到的画面可能是经过处理的（缩放、旋转、镜像等）。

? 检测方法

最直观的检查方法就是将摄像头数据显示到屏幕上。只要我们把2个摄像头回传的数据显示到屏幕上，就能了解两个摄像头数据的成像关系。例如Android平台可使用以下方式查看NV21数据：
示例流程
nv21 -> YuvImage -> jpg bytes -> bitmap -> ImageView。
示例代码

 @Override
  public void onPreview(final byte[] nv21, Camera camera) {
    ......
    //30帧一次，把帧数据显示到界面上（要是每帧都做就太卡了），若还是影响UI请放到子线程处理
    if (index++ % 30 == 0) {
      YuvImage yuvImage = new YuvImage(nv21, ImageFormat.NV21, previewSize.width, previewSize.height, null);
      ByteArrayOutputStream baos = new ByteArrayOutputStream();
      yuvImage.compressToJpeg(new Rect(0, 0, previewSize.width, previewSize.height), 100, baos);
      byte[] bytes = baos.toByteArray();
      ivFrame.setImageBitmap(BitmapFactory.decodeByteArray(bytes, 0, bytes.length));
    }
    ......
  }

? 解决方案

1. RGB和IR摄像头图像数据的其中一个被左右镜像

对于这种情况，我们在将RGB数据的人脸检测结果用于IR活体检测时，需要将其人脸框（rect）进行左右镜像调整。（Android demo中已提供左右镜像的代码）：

 /**
     * 人脸框水平镜像
     *
     * @param rect 人脸框
     * @return 水平镜像后的人脸框
     */
    private Rect mirrorRectHorizontal(Rect rect) {
        Rect newRect = new Rect(rect);
        newRect.right = previewSize.width - rect.left;
        newRect.left = previewSize.width - rect.right;
        return newRect;
    }

2. RGB和IR摄像头图像数据均被镜像或均未被镜像

对于这种情况，RGB数据的人脸检测结果用于IR活体检测时，不需要进行镜像调整。

3. RGB和IR摄像头图像数据有旋转关系

若有旋转关系，我们不仅要旋转人脸信息（FaceInfo）中的人脸框（rect），还需要修改人脸角度（orient）。否则IR活体检测将无法解析人脸，报81925错误。
（Android demo中已提供将orient单次旋转90度的代码）：

/**
 * 获取逆时针旋转90度后的人脸角度
 *
 * @param orient 人脸角度信息，即{@link FaceInfo#orient}属性，由{@link FaceEngine#detectFaces(byte[], int, int, int, List)}接口获取
 * @return 旋转后的人脸角度
 */
private int rotateOrient(int orient) {
    switch (orient) {
        case FaceEngine.ASF_OC_0:
            return FaceEngine.ASF_OC_90;
        case FaceEngine.ASF_OC_90:
            return FaceEngine.ASF_OC_180;
        case FaceEngine.ASF_OC_180:
            return FaceEngine.ASF_OC_270;
        case FaceEngine.ASF_OC_270:
            return FaceEngine.ASF_OC_0;
        default:
            throw new IllegalArgumentException("unsupported orient ‘" + orient + "‘");
    }
}

以上是个人使用的一点心得，如果需要下载虹软sdk可以到官网：https://ai.arcsoft.com.cn/product/arcface.html?utm_source=51cto&utm_medium=referral