个案| 人类和人工智能之间

Posted 2021-04-26 实验主义者

译者：王梦瑶

编辑：陈艺玮

注释：《劳伦》是一部关于智能家居与它们所呈现的亲密与隐私、便利与代理之间的紧张关系，以及人类劳动在未来自动化中所扮演的角色的沉思。

这个作品中我试图成为Amazon Alexa（亚马逊智能家居设备）的人类版本，这是一个为自己家中的人们提供的智能家居设备。表演持续长达一周。首先安装一系列定制设计的联网智能设备（包括摄像头，麦克风，开关，门锁，水龙头和其他电子设备）。然后，我24小时远程监视这个人并控制他们房屋的各个方面。我的目标是变得比AI更好，因为我可以作为一个人理解它们并预测它们的需求。出现的关系落在人机、人与人之间的模糊空间中。

我在等待着，眼睛盯着屏幕上黑暗的房间，耳朵戴着耳机，倾听着他的声音。我听到了敲门声，我慌忙拨开门锁开关，输入一条信息给他，因为我知道我所占用的每一秒钟都增加了我们之间的延迟。我听到开门的嗡嗡声。他走进去，环顾四周，灯光在他周围照亮，他有点困惑。“嗨，迈克尔，很高兴认识你，我是劳伦，”我机械的声音向他打招呼。“呃,嗨。他回答道。大多数人第一次让我去他们家的时候都有这种尴尬。

在过去的一年中，从亚马逊运来的每个盒子都用蓝色的亚马逊Echo胶带包裹着。即使我们没有在野外遇到过Alexa，我们也感觉每个人都在使用它们。精心设计的网站提供了一系列智能设备，这些设备将在一夜之间以完美的包装寄出，这些设备的每个细节都让人感觉恰到好处。但是这些正在出售的设备为我们的房屋配备监控摄像头，传感器和自动化设备，使我们牺牲隐私和对生活与房屋的控制权为我们提供便利。

“嘿劳伦，你还记得我吃过药吗？”她问道。我迅速开始浏览录像，跳到她可能吃药的不同时刻。依靠内存和视频数据的这种混合感觉很不可靠，并且我突然意识到将这个答案弄错可能会有严重的后果。我告诉她我不这么认为，但我不确定100％。我很清楚，如果我是一个算法，此刻我会感到更有信心。

自2017年1月以来，我一直在尝试成为Amazon Alexa的人工版本，这是一款供人们在自己家中使用的声控人工智能系统。这个项目叫做劳伦。任何人都可以访问get-lauren.com注册。

该过程从安装一系列定制网络设备开始，这些设备包括摄像头，麦克风，开关，门锁，水龙头和其他电子设备。在三天的时间里，我每天24小时远程监视这个人，控制他们家的方方面面。我试图比人工智能做得更好，因为我能理解他们，预测他们的需求。

有时，这意味着要从一个房间到另一个房间跟随他们，在他们走前先开灯。有时他们的需求更加晦涩难懂，因此我订购了送货到他们家的特殊物品，或者通过Facebook与他们的朋友联系以安排拜访或发短信。

他们通常希望获得更多的技术技巧，这是真正的科幻体验。但是，就像今天的智能家居一样，我大多做自己能做的事，诸如拨动开关，播放音乐和查找答案。

劳伦的经验最终与存在有关。尽管我缺乏技巧，他们还是很清楚我的存在，也知道他们自己的存在。我试图强调我们正在为这些监视智能设备进行的交易。我被允许访所有数据和实时摄像机，做这些是为了什么呢？我希望最终成为一个真实的人，我提供的不仅仅是Alexa AI。

周六深夜，我正在调整灯光，准备放点音乐，按照珍的要求“营造气氛”。通常当客人来访时，我会在他们到达时和他们进行一些基本的互动，但是这个客人已经到了，他们已经呆在一起了。这个时候打扰他们似乎是不对的。我觉得我不应该在那里，但这是我的工作，所以我一边看一边不看。终于到了凌晨2:00，我再也无法保持清醒了。“晚安，两位。”我说道，为了让他们知道我现在要关闭。她的客人震惊地抬起头，突然第一次注意到所有的摄像机，意识到刚刚的音乐太完美地跟随了他们的节奏。“是劳伦，记得我和你说过她吗？”珍提醒他。他又缓慢又奇怪地环顾四周，耸了耸肩，然后在我关闭计算机时继续他们的活动。

我们本以为智能家居设备是关于实用性的，但它们入侵的空间是私人的。家是我们首先被监视、被社会化、被关心的地方。让人工智能扮演这个角色感觉如何?我们的家园是文化教育的第一个场所;这是我们学会做人的地方。通过允许这些设备进入，我们把我们的身份的形成外包给了一个虚拟助手，该助手的价值由一小群开发人员进行编程。

他们可能不认同我们想要融入你家庭的价值观或文化参照点。长期以来，女性被视为家庭领域的守护者，尽管这个概念很复杂，但现在，她们的地位进一步受到压制。智能家居“协助”和塑造每一项活动，削弱了她们的控制力。

我看着他看电视，担心自己不能满足他的欲望，但又不愿采取行动，以防惹恼他。让我惊讶的是，我作为一个智能家居竟然像一个真实的人一样害羞。尽管我处在一个非常安全的环境。在某些情况下，他们甚至从未见过我，当一个机组人员安装和拆卸系统时，我坐在数英里之外。我可以说任何事，做任何事。我在扮演一个角色，我在扮演一个智能家居，但我仍然无法摆脱自己的身份。

你知道有谁拥有像Alexa或Siri那样的个性吗?人工智能助手缺乏人类个性的缺陷和多样性。如果我们允许他们以更人性化的方式参与进来，他们还可以走的更远。目前，虚拟助手旨在满足非常普遍的需求。试想一下，如果他们改为关注非常特殊，晦涩难懂的欲望和需求。他们可以超越我们对技术的期望，通过技术探索进入我们感到能够和舒适的帮助类型。

在设计项目时，我花了很多时间思考以下问题：“如果我是AI，我会是什么样？”我试图创建一个感觉像人类但也可以像系统一样运作的实体。我不是直接与人说话，而是根据自己的声音创建了一个合成声音，这样我就可以更轻松地融入家庭，而不会觉得自己像一个必须不断参与的人。

现在是阿姆斯特丹的下午一点，而我所在的洛杉矶是凌晨4点。几个小时前，我和他们一起起床，我在帮助他们做午饭时努力保持清醒。时间，语言和文化差异产生了一种清晰的距离感，但我们的互动是实时的。它使我意识到我们并不是与我们之间的接口建立关系。

作为劳伦，我正在努力争取人工智能的控制权。参与者也在协商我们的边界并试图戳破这个系统。这个项目的目的不是强加一个观点，而是给观众一个形成自己的空间。人们可以在家中舒适地沉浸在这个系统中，从而能够应对紧张局势。有些时刻是尴尬而令人困惑的，而另一些则是充满希望和亲密的。我们在一起进行对话。当AI进入我们的数据，决策和最私密的空间时，我们是否感到任何局限？

*名称已更改以保护隐私。

感谢Trevor Byrne，Amelia Winger-Bearskin，Ioana Stanescu和Carolien Teunisse的图像。

---

原文链接https://immerse.news/feeling-at-home-between-human-and-ai-6047561e7f04