人工智能和人权的碰撞：一场枪击案引发的争议
Posted 将门创投
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了人工智能和人权的碰撞：一场枪击案引发的争议相关的知识，希望对你有一定的参考价值。
From: Spectrum 编译: Shelly
时间回到 2018 年 8 月，美国圣地亚哥煤气灯区发生枪击案，一名调查警官在十字路口抬起头来，他非常兴奋：头顶上闪烁的路灯看上去不像普通的路灯。它确实有过人之处，灯杆配备了光学传感器，照亮城市街角的同时，它正在捕捉地面 24 小时实时信息。
圣地亚哥的智能“CityIQ”路灯灵感来自GE Current：一家通用电气公司。2017年它被私募股权公司美国工业合作伙伴收购。到2018年为止，圣地亚哥的智能路灯已安装了大约3300个，已收到但尚未安装的还有1000个。作为协议的一部分，市政府与Current公司签约共享CityIQ传感器数据的云分析。
2017年，圣地亚哥刚开始安装智能路灯时，
大家希望智能路灯能收集数据，改善城市运营，比如为自行车优选道路，识别十字路口事故多发路段，以及找出需要更多停车的地方。城市规划者认为，
这还可能激发一些科技公司开发新的应用，例如，引导视障人士、指挥司机停车，为慢跑者推荐更安静的路线。
因为 LED 灯既节约成本，效率又高，市政府也对此非常满意。当初的设想非常完美，这个项目很有可能让圣地亚哥一举成为美国“最聪明”的城市。但事实上是，
这些看上去很有潜力的应用程序没有实现预期价值，同时，随着燃料能源成本下降，
AI 路灯回收成本的想法也没有实现。
圣地亚哥：智能路灯的先驱者
圣地亚哥是第一个完全采用 CityIQ 技术的城市，在此之前对这项技术试点测试的有亚特兰大和波特兰。
圣地亚哥政府资助了智能路灯和其他 14000 个基本的 LED 灯项目。按照规划，将这笔费用分摊到未来 13 年里，如此一来，更换白炽灯所节省的能源就可以抵消一部分成本。
CityIQ 的工作原理如下：路灯内部是一个英特尔 Atom 处理器：0.5tb内存，支持蓝牙和无线网络，两个 1080p 摄像机、两个声学传感器，以及监测温度、压力、湿度、振动和磁场的环境传感器。大部分数据都是在节点上处理的。
数字视频的处理也包含在内，比如，在路灯上运行的机器视觉算法会提取自行车和汽车的速度，或者计算平均速度。GE Current 公司的数据管理器拥有从处理过的数据衍生出的所有分析和算法。
至少在最初，CityIQ 的初衷是专门用于城市管理规划和服务公共便利。圣地亚哥市副首席运营官
考德威尔说：“我们推出 CityIQ 时，没有想过把它当作执法系统，这千真万确，我们的主要目的是收集数据，完善城市规划。”
然而，在 2018 年 8 月，一切都变了。这个耗资 3000 万美元的项目让圣地亚哥陷入了执法越矩的争论中。
当时，在调查圣地亚哥煤气灯区谋杀案时，一名警官看到了新型智能街灯，他突发奇想，
路灯上的摄像技术可以捕捉到犯罪现场的画面，智能路灯看上去很老式风格，但内部摄像机、麦克风和环境监测传感器一应俱全。
“我们以前从没有利用过 AI 路灯破案，”警官杰弗里•乔登说道，“我们意识到摄像头恰好就在犯罪现场的上空。”警方联系了负责照明的圣地亚哥环境服务部门，询问是否有相关视频。事实证明，视频还存储在路灯里，5天后会被系统删除，而 Current 公司可以将其交给警察局。
Current 公司的考德威尔说：“如果我们的视频可以帮助破案，在发生重大犯罪时，我们有义务交出这些视频。”
考德威尔说，
事后城市管理者和警察都认为使用 CityIQ 的时候有很多事情都有待探讨。警察获得路灯数据的时候，需要政策支持和程序审批，向警方提供数据的过程也需要简化。事实上这个过程非常繁琐，警方如需使用，需要在地图上查找路灯号码，通过这个号码联系环境部门，环境部门又会联系 Current 公司，后者才能移交视频。因为有这么多人参与其中，所以它没有任何在法庭上站得住脚的监管方案。
到了 2018 年 10 月，交警部门出台了一项新草案，
希望将 CityIQ 的使用限制在严重犯罪上，但这类犯罪并没有清晰定义。至 2019 年 2 月中旬，警察局开始使用数字证据管理系统，在他们需要的时候可以显示这些智能路灯的位置。当犯罪发生时，警察可以使用该工具直接从一个选定的智能路灯中提取视频，没有提取的数据在 5 天后自动删除。
很难说智能路灯视频的使用是什么时候开始进入公众视野的。从 2019 年 3 月到 9 月，市政和警察局开展了十多次社区集会，试图解释智能路灯的功能，并收集对当前和未来用途的反馈。2019 年 6 月，警察局公布利用视频数据的破案量达 99 起。
2019 年 8 月，新美国促进合作组织的琼斯说，圣地亚哥开发了一个新旅游项目，作为推广智能路灯的一部分。几个组织的代表制定了一个计划，并很快组建了 Trust SD 联盟，希望将 CityIQ 项目透明公开地展现在公众面前。
2018 年 9 月下旬，TrustSD 拥有约 20 个社区组织。当月，琼斯代表组织写信给市议会，建议立即暂停使用、安装智能路灯，直到监管措施到位。
他们表示公民自由必须是第一位的，城市条例一方面必须保护隐私，一方面要受到公众监督。
琼斯和她的组织认为，缺乏对滥用数据的监管和惩罚是不可接受的。自2019 年 9 月以来，他们一直在推动修改圣地亚哥市的市政法规，希望把该政策写入法律，如果违反该法律，将通过罚款和其他措施予以处罚。
路灯争议当时还没有达到顶峰，直到 2020 年初，一个警察局发布的数据表明，在一年半的时间里智能路灯的视频被用作办案调查达到了 175次，还都是严重罪案调查，包括谋杀、性侵犯和绑架，但也包括破坏公物和非法倾倒垃圾，这使得不少人质疑圣地亚哥市对“严重犯罪”的定义。
琼斯说：“
我们需要一个监督系统辅助 CityIQ，我们无法判断警察或其他人是否在自己的职能范围内工作。当你看到破坏公物和非法倾倒物品的行为时，当然这些都不是严重的罪行，我们就需要问他们为什么要使用智能路灯的监控录像。原因也许是受害者的阶级，这就带来了歧视问题。我们对圣地亚哥的司法，以及受害者心理层级表示担忧。”
2020 年 7 月中旬，圣地亚哥市议会的委员会批准了两项与智能路灯数据有关的条例草案。其中一项是建立一个流程，对城市里的所有监控技术进行管理，包括监督、审计和报告、数据收集和分享以及数据的访问、保护和保留。另一项建议是成立一个由技术专家和社区成员组成的隐私咨询委员会，审查有关监控技术使用的议案。这些条例仍需提交市议会全体投票表决。
警官乔登说：“人们现在很担心使用监控录像发生的后果，所以大家很犹豫。从我们的立场来看，这是一项伟大的技术，我们想合理利用它。”然而琼斯并不这样认为：“天底下没有理由让圣地亚哥市和我们的执法机构在没有监管的情况下继续运作这个项目。不管这样做的好处是什么，CityIQ没有透明度，没有监督，也没有责任方。”
与此同时，你可以看到这项技术的一些好处并没有兑现。最初表示有兴趣利用智能路灯数据为普通市民创建软件的开发商，还没有真正推出一款应用程序。
Current 公司的考德威尔说：“最初启动 CityIQ 时，我们希望圣地亚哥的创新智囊能够找到各种有趣的数据用例，开发应用程序，并创建一个技术生态系统。我们已经和很多关注 CityIQ 的公司进行了对话，但还是石沉大海。”此外，节能计划原本是为了赚取现金来支付昂贵的设备，但伴随着电价上涨，这一优势也在逐渐消失。
爱丁堡大学数据与社会讲师 Morgan Currie 表示：“
政策和法律应在智能路灯投入使用前就已到位，而不是通过立法来追赶技术。”
智能路灯的争议漫长而曲折，它渐渐昭示着：
在 AI 技术发展的漫漫长河里，AI 与人性的冲突，AI 与人权的碰撞，将会衍生为两种思维、两种取向，甚至两大文明的碰撞。
在AI发展的路上，必不可少的会产生人们对科技的质疑、担心和恐惧，在圣地亚哥智能路灯事件中，我们看见了人们恐惧科技无坚不摧的力量，而选择站在了高科技公司和政府的对立面。这也提醒我们在今后科技发展的道路上，企业应该如何更好地告知公众以技术，政府告知公众以政策。
正因为进步是不可逆的，在人工智能的洪流浩浩荡荡冲开人类新篇章的同时，我们也应该适时思考AI呈现的过程与科技表达的方式。
ref：
https://spectrum.ieee.org/view-from-the-valley/sensors/remote-sensing/cops-smart-street-lights
