刑啊！智能音箱让10岁女童摸电门，内容来自网络却不审核，这锅该谁来背？...

Posted 2022-01-25 QbitAl

晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI

亚马逊语音助手Alexa差点闯下大祸，它居然让一个孩子去做触电游戏，摸电门的那种。

当时的情况是这样的：

一名10岁女童让Alexa告诉她一个挑战。Alexa说，把手机充电器半插在墙上，漏出插脚，然后用一枚硬币去接触插脚。

幸好这名女童的母亲也在家，Alexa“作死”的回答被她听到并及时制止。而且孩子也有不错的安全意识，才防止了可怕的后果。

这位母亲事后发Twitter说：“我女儿说她太聪明了，无论如何不会做那样的事情。”

没想到在我们身边的智能音箱，居然成了威胁儿童安全的“杀手”。

这位母亲的反馈很快引起了各大媒体的关注，她本人的Twitter也被大量转发。

得知消息的亚马逊迅速从Alexa上移除了这个危险的答案。

智能音箱为何变“智障”

为何智能音箱变成了“智障”音箱，安全意识还不如一个十岁的孩子？

从这位母亲的手机截图里我们可以找到答案：

大多数的语音助手，包括Alexa在内，其实只能回答一些套路问题，比如“天气怎么样”、“最近有哪些电影”等等。

如果问题稍微偏一些，超出了套路，语音助手就会从网上搜索内容作为答案。

这里Alexa是从当地一家网络媒体网站上找到了一条2020年1月的新闻。

这则新闻描述了在短视频平台上病毒式传播的“硬币挑战”，就是把硬币插在裸露的插脚上。

当时，媒体批判了这种“愚蠢”的行为，并指出潜在的风险，包括触电、短路引发火灾等等。

显然，亚马逊Alexa是从这里摘取的内容，却没有分辨出负面的评价。

亚马逊Alexa是否该对搜索结果负责，网友们分成两派看法。

一派认为，Alexa只是信息中介。如果一个孩子接到电话，电话里有不当内容，我们不会去责怪电话，而只会责怪电话那头的人。

而另一派认为，亚马逊不是卖音箱，而是卖语音助手，Alexa就相当于电话那头的人。

因此亚马逊不应该只简单提供搜索结果，还应当筛除里面不安全的内容。如果语音助手不具备明辨是非的能力，返回危险乃至违法的行为，这个“锅”必须得背。

短视频恐难辞其咎

在这起事件中，不可忽略的是短视频平台出现的一些“愚蠢挑战”。

2020年“硬币挑战”的病毒式传播已经造成了实质伤害。

两名美国中学生因为在学校进行“硬币挑战”，造成了插座烧毁，并引发了火警警报，最终面临企图纵火和恶意破坏财产的指控。

“硬币挑战”仅是其中之一，还有生吞洗衣胶囊、生吞肉豆蔻粉挑战，这些挑战都造成了模仿者险些丧命的事故。

著名YouTube医学类博主Chubbyemu把这些当做医学案例来讲解，并告诫大家不要模仿。

亚马逊Alexa不能明辨是非固然有错，但短视频平台对危险行为不加以制止，恐怕也难辞其咎。

但是国外网友在询问谷歌语音助手同样问题时，得到的是一些智力问答题，内容无害。显然亚马逊的推荐算法在审核信息来源时做得不够好，收录了不合理内容。

你觉得语音助手和短视频平台谁的锅更多一点？

参考链接：
[1]https://twitter.com/klivdahl/status/1475220450598924297
[2]https://ourcommunitynow.com/news-national/watch-out-parentsthe-viral-outlet-challenge-has-kids-doing-the-unthinkable
[3]https://news.ycombinator.com/item?id=29709369
[4]https://www.bbc.com/news/technology-59810383