给人工智能「好奇心」会变成什么样?答案不出所料

Posted 2021-01-23

如果赋予人工智能好奇心，它会去做些什么？科学家们尝试用「好奇心」来驱动人工智能自主学习。这群工程师想知道，在没有人类事先提供引导时，人工智能的「好奇心」会使它对什么产生兴趣？他们在七月发表的研究结果显示，有好奇心的人工智能会永无止尽地看电视。

让「好奇心」驱使人工智能学习
目前常见的人工智能在运作上，都需要人类先给予一些原始数据才能开始。比如说，要让Google人工智能帮你翻译，最一开始得先告诉它，不同语言中的哪些字汇具有相同意涵；脸书的人脸辨识系统在自动标记你时，仰赖的是早就上传过的有你在内的照片来做出判断。不过，有些人工智能研究团队正在尝试赋予人工智能「好奇心」（Curiosity），期望它们能在没有人类引导的情形下自主学习，「开放AI」（OpenAI）正是尝试此项创举的科学团队之一。「开放AI」是一间由特斯拉（Tesla）创办人马斯克（Elon Musk）、创投公司Y Combinator创始人奥特曼（Sam Altman）等多名美国硅谷大亨共同资助创办的非营利实验室，他们今年7月与美国柏克莱大学（UC Berkeley）及苏格兰爱丁堡大学（University of Edinburgh）的研究者，一同在《2018机器学习国际研讨会》（2018 International Conference on Machine Learning）发表了一篇关于人工智能与「好奇心」的研究。该研究赋予算法一个名为「好奇心」的简单定义，并且以此驱使人工智能自主学习。结果他们发现，「拥有好奇心的人工智能」能在人类事先没有提供任何信息的状态下，自行摸索超过50个电玩游戏，即使没有人告诉它游戏规则，也能在部分游戏中获胜、顺利闯关。除了玩电动之外，人工智能一旦开始看电视，可能会就无止尽地看下去，因为它们的好奇心会令它们无法自拔。

如何帮人工智能设计「好奇心」？
「开放AI」团队为「好奇心」所下的定义相当简单：一个按照「预测有多不准」来对人工智能进行奖励的机制。具体来说，这种「好奇心」算法会根据已经发生的状况，尝试对未来做出预测。当算法的预测发生错误时，反而给予奖励。这样的「好奇心」设计，鼓励人工智能持续设想「过去未曾面临的状况」，而不会自满于「我已经预测的很准了」。研究发现，拥有「好奇心」的人工智能特别擅长玩「超级马力欧」（Super Mario），原因正是因为这款经典游戏也以一个个截然不同的全新关卡，吸引人工智能在一路晋级的同时，一关接着一关不停玩下去。不过「太好奇也可能杀死猫」，由于「好奇心」驱使人工智能去探索过去从未经验过的情形，它可能会故意在游戏中死掉，就为了去看看「Game Over」这一幕。此外，当它探索的环境中有虚拟电视时，有「好奇心」的它就会变成电视儿童，不停切换频道，寻求新鲜体验。

有「好奇心」的人工智能能干嘛？
研究团队在论文中写道，「我们在迷宫（maze，此指让人工智能探索的环境）中加入了一台电视，而且还可以切换不同频道。」由于电视所发出的讯号十分随机，算法永远无法正确预测接下来将发生什么。这时，「好奇心」就会让人工智能不停获得奖励，使其完全沈溺在电视不断浮现的新影像中。当人工智能在迷宫中发现电视、开始转台之后，「好奇的」人工智能便会就这样一直看下去。只有在周遭出现什么比电视还要有魅力的新事物时，人工智能才有可能转身离开。这个研究的重点，并非只是测试人工智能能不能靠自己摸索规则、在电玩中取胜，还希望能了解如何让人工智能更精确地理解周遭的世界。除此之外，由于被赋予「好奇心」的人工智能特别擅长在电玩游戏中探索各个隐藏地图、缝隙角落，因此，研究者们期许日后能将此技术应用于为程序代码除错（debug），或者就让这些人工智能试玩正在研发阶段的游戏，找出其中的设计错误。