“我被苹果人脸识别系统「坑」进了监狱”

Posted 2021-06-21 CSDN资讯

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了“我被苹果人脸识别系统「坑」进了监狱”相关的知识，希望对你有一定的参考价值。

作者 | Carol

出品 | CSDN（ID:CSDNnews）

上周五，苹果公司和负责Apple Store安全问题的承包商SIS(Security Industry Specialists）被一名纽约小伙起诉了。

这名小伙名叫奥斯曼·巴赫（Ousmane Bah），2018年11月，他曾因涉嫌与波士顿、新泽西、特拉华州和曼哈顿的一系列苹果专卖店盗窃案有关被抓了起来，而令他觉得荒谬的是，自己不仅没有盗窃过苹果商店，就连警方的逮捕令中的嫌犯照片也都不像他，但警方却还是对他进行了逮捕。

2019年4月，还是学生的奥斯曼一举将苹果公司和SIS告上法庭，控诉苹果公司的人脸识别系统有问题，从而导致了警方抓错人，提出10亿美元的赔偿。

而上周五他在马萨诸塞州地方法院又提起新的诉讼，旨在重新提起与波士顿事件相关的指控。

奥斯曼在今年5月提起的新诉讼

苹果面部识别系统导致小伙无辜被“陷害”

自己根本没去过的城市，却被警方指控盗窃罪名，这换了谁都要一脸懵逼吧？

2018年5月，一名SIS工作人员在新泽西州苹果商店里，一名SIS工作人员冒名顶替，也就是真实的盗窃犯，当其被警方逮捕后，盗窃犯提供了奥斯曼的一张临时身份证明，于是SIS就发布了一个通告至苹果各大商店，告知其他地区的商店注意“奥斯曼这个惯犯”。好笑的是，在这封通告中，姓名是奥斯曼，但照片是盗窃犯。

而后，在5月31日的一起苹果商店盗窃案中，苹果公司从他们的通告记录中确认小偷就是“奥斯曼”，通知了波士顿警方，并以盗窃罪名起诉奥斯曼。

奥斯曼于2018年11月在纽约的家中被捕，警方的理由是“他在波士顿的一家苹果商店实施了盗窃”。但根据奥斯曼表示，波士顿苹果商店被盗那天他正在学校参加毕业舞会，并没有到过波士顿，怎么盗窃呢？“我被迫对多项虚假的指控做出回应，这些指控也导致了我严重的压力，并给我带来了诸多困难。”奥斯曼在起诉书中说道。

奥斯曼很肯定自己从未有过盗窃行为，不过自己之前曾经丢失了一张没有照片的临时学习驾驶许可证，上面包含了他的姓名、地址等个人信息。他怀疑是小偷偷走或者拾到了这张证明，在苹果商店用作身份证明。

据悉，在这桩苹果商店盗窃案的视频资料中，该名盗窃犯除了肤色相同以外，其他地方完全不像奥斯曼，奥斯曼身高1.7米，而犯罪嫌疑人却几乎有1.85米高。奥斯曼认为，苹果公司可能因为那张被冒用的身份证明，就将这名嫌犯的面部识别成了他的脸，但这么做显然是非常不合逻辑的。

奥斯曼在起诉书中提到，苹果公司在使用面部识别技术追踪涉嫌盗窃犯时可能错误将小偷的脸自动识别为奥斯曼的脸。而后这名小偷又继续在其他地区的苹果商店行窃，就导致奥斯曼被认为是连环盗窃嫌犯。

虽然后来纽约警方根据监控录像，也发现奥斯曼与嫌疑犯的长相完全不同，撤销了对其的指控，但无辜被捕所带来的影响还是让这位小伙子非常郁闷。

奥斯曼的律师表示：“由于苹果公司的疏忽，奥斯曼在多个州被指控犯有重罪。在此之前，其本人从未面临过法律指控，也从未与执法部门发生过任何冲突。如今，奥斯曼先生受到了严重的伤害。被错误地逮捕让奥斯曼感到羞辱、害怕和深深地担忧。”该诉讼还称，在事后苹果和SIS还有选择地删除了视频证据，因为这些证据可能会让他们背上“向警方提交虚假投诉”的刑事或民事责任。

针对这起10亿美元的高额索赔诉讼，苹果公司发言人曾回应称，他们的零售店并未使用诉讼中所涉及的面部识别技术。目前，奥斯曼的律师正在纽约、新泽西和马萨诸塞州对苹果公司和SIS提起诉讼。但苹果公司和SIS目前没有新的回应。

人脸识别技术翻车并非第一次

面部识别技术给我们的生活带来了很多便捷，比如无卡乘车，上班打卡，扫脸付款等等。但如果人脸识别技术不够成熟，就会闹出很多笑话，如果在一些严肃场合闹乌龙，还可能会给人们带来很大的麻烦。

2018年，一名小偷在美国密西根州底特律的Shinola商店偷了几块名表，被店里的监控拍下了全过程。虽然监控拍摄到的图像很模糊，而且小偷也没有抬头看监控，但在这种情况下，警方却使用了人脸识别技术，并且仅凭借一张驾照照片锁定了42岁的Robert Williams。而后警方拿着这张照片去询问店里的一名保安，保安却确定就是他，但其实盗窃案发生时这名保安并不在现场。

于是，这一连串的乌龙导致警方直接找到Robert的家里，当着他妻女的面，把刚下班的Robert带上警车。随后，他在底特律拘留中心被关押了30个小时，由于过度拥挤，他还被迫睡在了凸起的水泥地板上，直到缴纳1000美元的保释金，RobertWilliams才被放出来。

Robert Williams本人在后来的诉讼中表示：“由于机器算法的原因导致我在家人面前被捕，这不应该，希望这种事情不要再发生在其他人身上。”他希望通过这起案件能修改相关法律政策，制止人脸识别技术的滥用。

对此，《纽约时报》评论道：当威廉姆斯的照片被扫描时，软件会返回一份潜在匹配对象的列表，以及各自的“置信度”，即算法预测的每张照片实际上就是监控录像中的窃贼的可能性。这些置信度在面部识别匹配中很重要，但如果置信阈值太低，则会导致错误率提高。

并且，根据MIT和NIST的研究人员发现，人脸识别技术对肤色较深的人不太准确。人脸识别技术对于白人男性的识别效果相对来说更好，这与训练时的人脸识别数据集里的样本数量有关。也因为此，美国旧金山、马萨诸塞州剑桥等肤色人群混杂的城市禁止或限制使用该工具。

单单依靠人脸识别技术进行嫌疑人锁定是不够科学的，因为监控摄像头会压缩视频图像，许多人脸特征会变形、损坏甚至去除，都是导致人脸识别不准确的原因。

目前，微软、IBM和亚马逊等互联网巨头，已经保证不将人脸识别系统出售给警方。

除了抓捕错误的事件以外，面部识别技术也闹过一些可笑的乌龙。比如此前，在Google相册里有一个AI功能，可以自动检测具有相同背景/场景的图像，将它们合并为单个全景图片。一次，Reddit用户“MalletsDarker”在滑雪场拍摄了三张照片：两张是风景照，另一张是他朋友的照片。然而当谷歌照片合并这几张图片时，发生了一件奇怪的事情：他的朋友的脑袋被渲染成一个从森林中窥视出来的尖峰巨人。