危险的视频推荐算法

Posted 2021-04-29 环球科学

撰文：柴内普·图菲克奇（Zeynep Tufekci）

翻译：红猪

现在是凌晨三点，烟雾报警器嘀嘀响个不停。家里并没有着火，我也不必惊慌。我要做的只是让这讨厌的东西安静下来，平息我的怒火。我已经卸掉了电池，还把全部按钮都按过一遍扭过一遍，但就是没用。 幸运的是，我在Youtube教程里找到了所有问题的解决方案。视频帮助我选好了对策，并且列出了每一个步骤。看到它有数十万点击我安心了：这或许真的管用。

 YouTube已经成为学习一切技能的地方，从怎么安装宜家的柜子到怎么连接蓝牙耳机，应有尽有。Youtube汇总了各种教程，有的很好，有的不着边际，还有的由专门人士制作，他们通过广告赚了大钱。但对许多视频上传者来说，他们在解决问题的同时，把答案分享给全世界。

 数码世界的土著语言应该是视频而不是文字。然而这个趋势却被主导前数字时代公共对话的知识阶层错过。我注意到，许多年轻人在搜索自己想要的内容是都是从YouTube开始的。YouTube的所有者谷歌也会在搜索结果里重点标记视频。

“要怎么”组装那只桌子，减轻我的中风，确定我是个女性主义者，选择疫苗，给我的面颊打光，系鞋带，研究气候变化的真假……YouTube上总会有人知道。但还有一些别有用心的人也盯上了这个网站。他们是极端分子、阴谋论者和守旧派，他们知道YouTube是一道信息的门户，尤其对年轻一代而言。

YouTube的黑暗面也在这里：它的盈利之道是将用户留在网站，给他们播放定向广告。为了使用户持续观看，这个网站还使用了基于人工智能的一套推荐系统（毕竟是谷歌）。

其实在2015年，当谷歌的AI部门“谷歌大脑”接管YouTube的推荐功能后，就有人写文章赞美它显著增加了“参与度”（engagement）――硅谷的黑话，意思是引诱你在网站停留更长时间。

这些“推荐”视频一个接一个地播放。也许你刚放完一个如何磨刀的教程，就会出现女性主义如何摧毁男性气概、疫苗有什么毒性或者为什么气候变化是一个骗局之类的视频，当然，也有可能是一个时髦的主播在“证明”泰坦尼克号从来没有撞上过冰山。

YouTube的算法会推荐任何它们认为能提高参与度的视频，看来它们已经发现了荒谬的说法、仇恨言论和兜售愤怒特别有效。

收到有害内容的推荐已经成了一种普遍体验，已经有人大声反对这种现象。后来，谷歌封杀了几个明显冒犯观众的高调“内容创造者”，并在不久前宣布了一个方案，准备减少推荐那些“低俗或以有害方式误导用户的内容”。谷歌表示，需要减少的内容包括“对严重疾病的虚假神奇疗法”以及宣扬“地球是平的”的言论。虽然在推行这个方案之前，算法已经将这些人的观点推送给了数百万人。

虽然我很开心看到谷歌的回应，但这个问题是深刻的、结构性的。谷歌的商业模式就是积极推荐观看次数最多的内容。另外，YouTube的手伸得很远，谷歌旗下有一系列便宜又漂亮的Chromebook笔记本电脑，这款电脑在美国初等教育电脑市场上占据了一半以上的份额。YouTube就预装在这种电脑上。许多家长和教育者大概都没意识到自己的孩子和学生对它有多依赖。

就像我们不能呵斥孩子离开草坪一样，我们也无法忽视一个事实：孩子们使用YouTube是有原因的。上面有他们想看的东西，就像我真想知道怎么在凌晨三点结束那场嘀嘀乱响的灾难。我们要用法规、自律和教育应对这个现实。我们不知道推荐系统的原理，不知道它的设计是怎么把我们的眼睛钉在屏幕上的。但我们可以要求学校里的Chromebook不安装YouTube，或者关闭“推荐”功能。

在利润、全球规模和人工智能的危险关系中，这只是冰山一角。这是一个崭新的时代，它提出的挑战和泰坦尼克撞上的冰山一样真实。

《环球科学》2019年5月刊现已上市

点击图片或点“阅读原文”立即购买