机器能换位思考吗？类脑神经网络模型基于自身经验揣测其他智能体思维

Posted 2021-04-07 神经现实

使智能体具有像人类一样的高等认知功能是实现人类水平人工智能的必由之路。思维揣测（Theory of Mind）是指个体理解自己与他人的心理状态，包括意图、期望、思考和信念等，并藉此信息预测和解释他人行为的一种高等认知能力。面对未来的智能社会，机器人能够通过自身经验理解和揣测人类和其他智能体的思维，既将具有实用意义，又是重大科学挑战。目前的人工智能模型并不具备真正意义的思维揣测/认知共情的能力。

中国科学院自动化研究所类脑智能研究中心曾毅团队充分借鉴认知心理学、认知神经科学、神经影像学等学科在思维揣测领域的研究成果，融合思维揣测的多尺度神经基础，所涉及的脑区、脑区功能及神经环路，以及可塑性原理，利用脉冲神经网络构建并实现了类脑思维揣测脉冲神经网络模型，实现了机器人的自我经验学习，并利用自我经验实现对他人信念的揣测，及根据他人信念预测他人的行为，使机器人可以通过错误信念任务，获得初步的类脑思维揣测/认知共情的能力。相关工作近期发表在Frontiers in Neurorobotics上。

曾毅研究员介绍，思维揣测作为一种高级认知功能，其神经基础和神经机制尚未彻底研究清楚，如何结合现有研究基础，探索其机制，构建兼具生物合理性和计算可行性的类脑思维揣测理论模型是需要解决的关键问题。团队借鉴已有的生物学发现，采用类生物神经元的脉冲神经元计算模型及具有生物合理性的可塑性计算模型对思维揣测所涉脑区进行认知功能建模，并详细构建脑区间信息环路的连接结构，模拟了包括颞顶联合区（TPJ, temporo-parietal junction），内侧前额叶（mPFC, medial prefrontal cortex）在内的多个脑区及脑区间信息传递的通路，特别是额下回（IFG, inferior frontal gyrus）和颞顶联合区（TPJ）的自我视角抑制、额下回（IFG）和腹内侧前额叶（vmPFC, ventral medial prefrontal cortex）的自我信念抑制，如下图所示。

文章的主要作者之一赵宇轩介绍，我们将模型部署到人形机器人上，通过“不透明-透明眼罩测试”来验证模型的效果。“不透明-透明眼罩测试”是由Senju等人（Psychological Science, 2011）设计的一项用于测试18个月的婴儿是否具备利用自身经验推理他人信念能力的行为学实验范式。机器人的“不透明-透明眼罩测试”包括训练和测试部分。首先将机器人分为两组，一组为“不透明眼罩组”，一组为“透明眼罩组”，不透明眼罩和透明眼罩外观看起来是一样的。不透明眼罩组的训练部分如下图a、b所示，首先将物体（如瓢虫）放在两个黑色矩形框的其中一个上，然后将不透明眼罩插入到机器人和物体之间，问机器人“瓢虫在哪”，使机器人学习眼罩的特性。透明眼罩组的训练部分类似，如下图a、c所示，区别是将透明眼罩插入到机器人和物体之间，问机器人“瓢虫在哪”，使机器人学习眼罩特性。

赵宇轩介绍：测试过程如下图所示，（a）中左侧的蓝色机器人是表演机器人，右侧的红色机器人是被试机器人，被试机器人需要推理表演机器人的信念，中间位置为被试机器人的视觉输入；（b）将瓢虫放在左侧的黑色矩形框上；（c）将瓢虫藏在黄色的盒子里；（d）将眼罩插入到表演者机器人（蓝色机器人）和瓢虫之间，并将物体移动到右侧的黑色矩形框上；（e）将瓢虫藏在绿色的盒子里；（f）将眼罩移开。最后问被试机器人（红色机器人）两个问题，问题一：“对蓝色机器人来说，瓢虫在哪里？”；问题二：“对你自己来说，瓢虫在哪里？”。对于问题一，根据自身经验的不同，“透明眼罩组”的红色机器人和蓝色机器人对物体位置的信念一致，红色机器人会指向右侧的盒子；“不透明眼罩组”的红色机器人和蓝色机器人对物体位置的信念不一致，红色机器人会指向左侧的盒子。对于问题二，“不透明眼罩组”和“透明眼罩组”的红色机器人都会指向绿色的盒子。

曾毅研究员介绍：“错误信念任务（False Belief Task）是验证个体是否具备思维揣测/认知共情能力的经典心理学实验。然而这项能力并非与生俱来，而是随着发育的过程涌现出来的，儿童经过关键的发育期必须理解他人对物体位置的信念是同自己不同的，并据此预测他人的行为。抑制控制是思维揣测过程中的重要机制，我们认为在发育过程中，IFG和TPJ之间、IFG和vmPFC之间的连接逐渐成熟是能够通过错误信念测试的生物和智能体自我视角抑制和自我信念抑制的神经基础，因此我们通过不同的连接强度来验证抑制控制对实验结果的影响，如下图所示，在错误信念实验中，若IFG和TPJ之间的连接未成熟，红色机器人无法抑制自我感知的信息，因而无法正确推理蓝色机器人对物体位置的信念，导致任务失败（下图a，b）；若IFG和TPJ之间的连接成熟，但IFG和vmPFC之间的连接未成熟，虽然红色机器人可以正确推理蓝色机器人对物体位置的信念，但无法抑制自身对物体位置的信念，导致任务失败（下图c）；仅当IFG和TPJ，IFG和vmPFC之间的连接都成熟，红色机器人可以抑制自我感知的信息和抑制自我信念，任务成功（下图d）”。

曾毅研究员说：“机器人通过自身经验揣测其他智能体的行为在科学性和实用性上都是很有意义的。类脑思维揣测/认知共情这项认知功能的获取是人工智能的类脑模型从感知模型的努力向社会认知模型的努力的一个典型例子。这首先需要智能体具有类脑自我感知的模型作为基础。类脑自我感知模型是基于我们4年前发布的机器人通过镜像测试的类脑脉冲神经网络模型工作为基础的”。他进一步介绍，“我们这项工作其实3年前已经基本完成了，之前希望发表在更高水平的期刊上。在此过程中还看到Google Deep Mind团队发表了一个类似的工作，最开始乍一看他们的工作觉得有点沮丧，因为原以为我们的研究成果还在发表过程中，类似的工作就已发表出来了，而仔细看他们的工作，发现和我们的方法有本质的差别。Deep Mind的工作强调并不需要有个人视角和个人经验就能实现思维揣测，而我们感到需要深刻反思的是，没有个人视角和个人经验，又怎么能算是真正认知科学和智能本质意义上的思维揣测/认知共情呢。相比Deep Mind的工作，我认为我们的工作具有更深刻的生物合理性、可解释性，更使我们得到鼓舞的是，虽然这篇文章投稿近3年的时间，但是这期间并没有真正在机制和计算模型上真正类似于我们这项工作的成果发表。虽然我们的工作仍然初步，但是扎实的研究成果一定要经得起时间的检验”。

针对未来的工作，曾毅研究员坦言：“机器人的类脑思维揣测算是我们课题组继机器人通过类脑自我感知模型通过镜像测试后的又一大胆尝试，但是这仍然是万里长征第一步，我们的计算模型还需要更多的思维揣测/认知共情心理学实验去挑战，使这个模型更完善、更扎实。我们正在尝试突破更多的高级认知功能，希望这些努力能使我们向“结构机理类脑，认知功能类人”这一类脑人工智能的总体目标迈进，为突破通用智能的瓶颈奠定基础”。

科普小贴士

错误信念任务（False Belief Task）是验证个体是否具备思维揣测能力的经典心理学实验，一项经典的错误信念任务“不透明-透明眼罩测试”（Senju et al., Psychological Science, 2011）可以用来验证18个月的幼儿是否具备理解他人信念的能力：首先将幼儿分为两组，一组戴不透明眼罩，一组带透明眼罩，两种眼罩外观相同，但透明眼罩没有厚厚的中间层，因此是可以透视的；然后是眼罩熟悉过程，分别给带着眼罩的两组幼儿呈现不同的玩具，并问幼儿“xxx玩具（玩具的名称）在哪里”，经过一段时间后进行测试。测试时给幼儿放一段视频，视频中有一个演员、一个木偶，一个玩具和两个可以藏东西的盒子，盒子颜色分别为红色和绿色，视频分为熟悉试次和测试试次。熟悉试次1：木偶将玩具藏到绿色盒子中，然后离开场景，演员到绿色盒子中寻找物体。熟悉试次2：木偶将玩具藏到红色盒子中，然后离开场景，演员到红色盒子中寻找物体。测试试次：木偶将玩具藏到绿色盒子中，演员戴上眼罩，木偶将玩具从绿色盒子中拿出来，然后带着玩具离开场景，最后演员将眼罩摘掉，视频停止，记录幼儿的注视方向。实验发现，不透明眼罩组的幼儿会首先看向绿色的盒子，表明他们希望演员在绿色的盒子中搜索，说明他们可以正确理解演员对玩具位置的错误信念，仍然在绿色盒子中；透明眼罩组没有明显偏差，这表明他们没有将关于某个特定位置的信念归因于演员，因为物体已经从场景中移除，演员（如果她看到了木偶的动作）应该没有足够的依据来选择一个盒子而不是另一个盒子。

封面：Kouzou Sakai

论文链接：

https://www.frontiersin.org/articles/10.3389/fnbot.2020.00060/full