危险 AI 花名册

Posted 2020-11-09 极光大数据

简评：臭不要脸 AI 名单，another side of AI.

这是一个可怕的 AI 清单，上面的各种商用 AI 项目都用于一些很恶劣的目的。请大家保持警惕。

区别对待类

· HireVue - 扫描你的脸并告诉公司你是否值得雇用的应用程序[ 摘要 ]

· 同性恋检测 AI - 根据一项新的研究表明，机器可以比人类具有更好的同性恋判断，人工智能可以根据他们的脸部照片准确地猜测人们是否是同性恋[ 摘要 ]

· 种族主义者聊天机器人 - 微软聊天机器人叫做 Tay，它从 Twitter 学习了一天，并开始吐露一些种族主义言论[ 摘要 ]

· 种族主义自动标签 - 谷歌图像识别程序将几个黑人的脸部标记为大猩猩[ 摘要 ]

· PredPol - PredPol 是警察部门的一个程序，可以预测未来可能发生的犯罪的热点地区，它可能会让黑人和有色人种社区被无端怀疑。[ 摘要 ]

· COMPAS - 是威斯康星州法律法院用来预测再犯风险的风险评估算法。其开发公司拒绝透露专有算法，只有最终的风险评估分数是已知的。该算法推论黑人的再犯罪指数更高。[ 摘要 ] [ 纽约时报社论]

坏影响力、虚假新闻、谣言类

· 剑桥分析公司 - 剑桥分析公司使用 Facebook 数据来改变受众对于政治和商业的行为和倾向[Guardian 文章]

· Deep Fakes - Deep Fakes 是一种基于人工智能的人体图像合成技术。它用于将现有图像和视频合并并叠加到源图像或视频上。Deepfakes 可能被用来制造假的名人色情录像或复仇性质的色情片。[ AI 辅助假色情 ]

· 假新闻僵尸工具 - 通过僵尸账号自动编程传播假新闻。假新闻用来操纵股市，散布假保健品消息，操纵选举（包括全美大选）[ 摘要 ] [ 机器人角色 ]

· 注意力工程 - 从 Facebook 通知到 Snapstreaks 到 YouTube 的自动播放，他们都在争夺一件事：你的注意力。公司为了自己的利益而掠夺我们的心智[ TED Talk ]

社会信用体系

· Social Credit System - Using a secret algorithm, Sesame credit constantly scores people from 350 to 950, and its ratings are based on factors including considerations of “interpersonal relationships” and consumer habits - [summary][travel ban]（间歇性英语能力缺失症发作，不翻译）

· Vitality - 健康保险公司，提供基于健身追踪器数据访问的交易[ 摘要 ]

监控

· SenseTime＆Megvii- 基于面向深度学习算法的人脸识别技术，SenseFace 和 Megvii 提供智能视频分析集成解决方案，用于目标监控，轨迹分析，人口管理[ 摘要 ] [ 福布斯 ]

· Uber God View - 优步的「上帝视角」，让优步员工看到了城市中的所有 Uber，以及等车用户的所有个人信息[ 荣耀之车]

· Palantir - 一家专注于预测政策、情报和军事防御系统的 10 亿美元级别的 AI 初创公司[ 摘要 ]

垃圾 AI 的克星

下面这些都是开源的，是那些不好的 AI 的克星。

· Data Selfie - 浏览器扩展，可以在你访问 Facebook 的时候记录你，给你提供刚才的数据痕迹，根据算法预测你的个性[ 代码 ]

· AdNauseam - 轻量级浏览器扩展，它的作用比较迷幻，用于方及网络广告追追踪，说的简单点，你打开一个网页，如果你点击了一些网站就会被记录倾向，而这个软件就是让你打开一个网站，它把上面所有的广告都给点个遍，防止广告商知道你的倾向。[ 代码 ]（虽然初衷是好的，但是打开一个新网站就把广告点个遍很智障）

· BS检测器 - 浏览器扩展，搜索页面上的不可靠来源并标注出来。[ 代码 ]

· Snopes.com- 由大卫·米克尔森创建，该项目始于 1994 年，现已成长为互联网上历史最悠久，规模最大的事实核查网站，被记者，民间人士和非专业人士广泛认可。

· Facebook容器 - Facebook 容器将你的 Facebook 活动与其他网络活动隔离开来，以防止 Facebook 通过第三方 Cookie 追踪你[ 代码 ]（针对 Facebook 的沙盒）

原文：daviddao/awful-ai