asp.net core 实现 face recognition 使用 tensorflowjs(源代码)

Posted 学习园地

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了asp.net core 实现 face recognition 使用 tensorflowjs(源代码)相关的知识,希望对你有一定的参考价值。

 

 

 功能描述

  1. 上传照片文件名及是系统要识别标签或是照片的名称(人物标识)
  2. 提取照片脸部特征值(调用 facemesh模型)
  3. 保存特征值添加样本(调用 knnClassifier)
  4. 测试上传的图片是否识别正确

项目依赖的库

源代码(neozhu/smartadmin.core.urf: Domain Driven Design (DDD) ultra-lightweight rapid development architecture(support .net 5.0) (github.com)

tensorflowjs,在该项目中我使用了ml5js这个封装过的机器学习javascript类库, 使用起来更简单

Demo

http://106.52.105.140:6200/photos/index

demo/123456

代码实现

上传照片功能

 

 asp.net core 参考CleanArchitecture 结构实现后台代码, 

 参考代码如下(具体请看源代码):

namespace SmartAdmin.Application.Photos.Commands
{
  public partial class AddPhotoCommand : IRequest<Result<int>>
  {
    public Stream Stream { get; set; }
    public string FileName { get; set; }
    public decimal Size { get; set; }
    public string Path { get; set; }

  }
  internal class AddPhotoCommandHandler : IRequestHandler<AddPhotoCommand, Result<int>>
  {
    private readonly IUnitOfWork unitOfWork;
    private readonly IPhotoService photoService;

    public AddPhotoCommandHandler(IUnitOfWork unitOfWork,
      IPhotoService photoService)
    {
      this.unitOfWork = unitOfWork;
      this.photoService = photoService;
    }
    public async Task<Result<int>> Handle(AddPhotoCommand request, CancellationToken cancellationToken)
    {
      var info = new DirectoryInfo(request.Path);
      if (!info.Exists)
      {
        info.Create();
      }
      using (FileStream outputFileStream = new FileStream(Path.Combine(request.Path,request.FileName), FileMode.Create))
      {
        request.Stream.CopyTo(outputFileStream);
        outputFileStream.Close();
      }
      var photo = new Photo()
      {
        Name = Path.GetFileNameWithoutExtension(request.FileName),
        Size = request.Size,
        Path = $"/photos/{request.FileName}",
      };
      this.photoService.Insert(photo);
      await this.unitOfWork.SaveChangesAsync();
      return await Result<int>.SuccessAsync(0, "保存成功");
    }

  }
}

facemesh模型提取照片中脸部特特信息

扫描图片获取图片中脸部的特征信息以一个多维数组的形式保存到数据库中,这些特征值将用与下一步的KNN分类识别使用

 

 完成每一张照片中脸部信息的数字转化

参考代码如下:

 function predict() {
      const img = document.getElementById(\'photo-canvas\');
      facemesh.predict(img).then(faces => {
        console.log(faces)
        if (faces) {
          const canvas = document.getElementById("photo-canvas");
          const photoId=canvas.getAttribute("photo-id");
          const photoName=canvas.getAttribute("photo-name");
          console.log(canvas)
          var draw = canvas.getContext("2d");
          var mesh = faces[0].scaledMesh;
          console.log(mesh);
          /* highlight facial landmark points on canvas board */
          draw.fillStyle = "#00FF00";
          for (i = 0; i < mesh.length; i++) {
            var [x, y, z] = mesh[i];
            draw.fillRect(Math.round(x), Math.round(y), 2, 2);
          }
          updateLandmarks(photoId,JSON.stringify(mesh));
          knnClassifier.addExample(mesh, photoName);
          canvas.setAttribute("photo-mesh", JSON.stringify(mesh));
          $(\'#testbutton\').attr(\'disabled\', false);
        }
      });
    }

   function updateLandmarks(id,landmarks){
     $.post(\'/Photos/Update\',{Id:id,Landmarks:landmarks}).done(res=>{
      console.log(res);
      reload();
     }).fail(res=>{
      $.messager.alert(\'更新失败\', res, \'error\');
     })
    } 

 添加分类识别样本数据

facemesh模型只负责把照片中面部特征转换成一个数组,如果需要对每一张照片的数据再进行分类就需要用到KNN模型,添加的样本数据越多,识别的就越正确。

参考代码:

let knnClassifier =ml5.KNNClassifier();
    function training(){
       $.messager.progress({msg:\'training....\'});
       $.get(\'/Photos/GetAll\').done(res=>{
        for(let i=0;i<50;i++){
        res.map(item=>{
        if(item.Landmarks){
        knnClassifier.addExample(JSON.parse(item.Landmarks), item.Name);
        }
        });
        }
        $.messager.progress(\'close\')
           if(knnClassifier.getNumLabels()>0){
           knnClassifier.classify(JSON.parse(res[2].Landmarks),(err,result)=>{
             console.log(result);
         })
       $(\'#testbutton\').attr(\'disabled\', false);
       }
       })
    }

测试照片识别结果

上传一张照片匹配维护的照片库中照片名称是否正确

 

 参考代码:

function testPredict(){
      const img = document.getElementById(\'testphoto_img\');
      facemesh.predict(img).then(faces => {
        console.log(faces)
        if (faces) {
          knnClassifier.classify(faces[0].scaledMesh,(err,result)=>{
          console.log(result);
          $.messager.alert(\'Result:\',result.label);
          $(\'#testresult\').text(result.label);
         })
        }
      });
    }

到这里就全部完成了,对tensorflow感兴趣的朋友可以留言,下面有时间会继续更新,实现利用摄像头来识别人脸。

对asp.net core CleanArchitecture 感兴趣的朋友可以从github下载,也可以留言交流,这个项目我也会继续更新,如果喜欢,请给个星星。

 

以上是关于asp.net core 实现 face recognition 使用 tensorflowjs(源代码)的主要内容,如果未能解决你的问题,请参考以下文章

Asp.net Core中的多对多实现问题[重复]

ASP.NET Core 实现自定义认证

一个Mini的ASP.NET Core框架的实现

ASP.NET Core 实现基于 ApiKey 的认证

在 ASP.NET Core 站点中实现 Blazor - 组件不在视图中呈现

ASP.NET Core学习总结