DoNotPay推出可混淆AI图像识别的Photo Ninja功能

Posted 2021-05-03 华光照排研发中心订阅

机器人法务应用 DoNotPay，刚刚推出了一项名为 Photo Ninja 的新功能，旨在通过轻微地修改用户照片，以使人工智能应用程序无法辨识用户的身份。DoNotPay 声称该功能可防止用户在线上传的照片被用于恶意目的，且一切都可自动化完成。只需交纳 3 美元的月费，即可在上传照片给 DoNotPay 后、隐秘地掺入可让面部识别工具产生困惑的信息。

作为一种“对抗示例”，其利用了破坏 AI 行为的特殊手段。随着人工智能角色的不断发展、以及潜在威胁和破坏隐私技术的持续开发，该领域也日渐被研究人员所重视。

DoNotPay 表示：“Photo Ninja 使用了一系列新颖的隐匿写入、检测扰动、可见叠加、以及其它几种基于 AI 的增强过程，以保护用户图像不受反向搜索的影响，同时不会对图像外观造成损坏”。

据悉，经过训练的 AI 系统，能够对图片展开像素级的数据分析。而对抗性示例的出现，又可基于足够细微的像素颜色更改来欺骗它们。尽管人眼看不出差别，但计算机却无法像通常那样对其展开正确的分析，从而将之理解为两幅完全不同的图像。

举个例子，用户可在向线上约会平台提交个人资料照片时通过 Photo Ninja 的预处理，以便阻止他人通过 TinEye、Clearview AI 和谷歌的以图搜图功能，来检索相关的图片和社交媒体资料信息。

此外许多零售商和警察机构依赖于从互联网上搜集的图片数据库来寻找犯罪嫌疑人，但常常因为识别不准确而闹出乌龙并引发了极大的争议。