《机械姬》探讨人工智能 艾娃有可能会有个人意识

Posted 2021-01-22

《人造意识》（Ex Machina，或译为《机械姬》）是部十分出色的电影，撇除电影巧妙地将一个极为深刻的哲学问题以故事方式呈现之外，配乐、镜头、演员、节奏、结局也是一绝的。这部电影的故事十分简单，主要角色只有三个：测试设计者（老板）、测试者（员工，Caleb Smith，下称嘉立）、被测试者（人工智能，Ava，下称艾娃）。故事就是一间科技公司老板请来了一位员工，去帮忙测试他研发的人工智能。老板想要知道的事情很简单：究竟艾娃是否具有意识？

电影版本图灵测试
这个测试，一如老板所说，是个新版本的图灵测试 （Turing Test）。图灵测试是一个关于人工智能的经典测试，名字源自测试的设计者──艾伦．图灵 （Alan Turing）。大家之前或有看过 2015 年的那套《模彷游戏》（The Imitation Game）电影，当中说的就是这个鼎鼎大名的图灵。旧版本的图灵测试是这样的：测试者需向被测试者提出问题，而回答的有可能是一个正常人类，也有可能是被测试的计算机。经过一连串答问之后，如果测试者不能分辨到人类和计算机的话，便可以宣告计算机通过测试（其实这个和图灵测试最原初的设计不完全一样。但核心精神基本上一致，而且已成为了现今一般对图灵测试的标准理解，当中曲折不在此述）。

电影中的测试和这个图灵测试很类似，整个进行的过程都是嘉立向艾娃提问题，而夏娃能否通过测试也是由嘉立一锤定音。不过，这里有个重要分别：图灵测试当初问的问题只是机械能否思考（Can machine think），而不是是否具有意识（Does machine have consciousness）。具有意识的要求比能否思考的要求高出不少，现在基本上不会有人再问机械能否思考这个问题，因为答案几乎是肯定的。只要想想前一阵子闹得热哄哄的 AlphaGo 便知道：AlphaGo 具有分析形势、预测对手反应、评估风险、作出决定等能力，大抵没有人会质疑这个能打赢李世乭（韩国九段琪士）的计算机能否思考。但谈到 AlphaGo 是否具有意识，却充满疑问（准确一点说，当初的图灵测试也不完全在问机械能否思考这个问题，因为他认为这问题有歧义、不够具体，但图灵真正的问题基本也是以机械能否思考为核心，而有别于是否具有意识这问题）。

物理主义对「意识」之理解
当我们问机械是否具有意识时，更根本的问题是「什么是意识？」
什么是意识是近代分析哲学最热门的问题之一。随着脑神经科学、认知科学、心理学的发展，心灵哲学家对意识本质的讨论更是愈趋热烈。这几十年的讨论什么是意识？《人造意识》中的心灵哲学问题的核心之一，乃是人类的心灵能否完全被自然科学所描述和解释。如果能够，则所谓关于人类意识的心灵现象，不外乎是物理现象的一种，而认同此立场的被称为物理主义（Physicalism）。现代社会的科学式世界观中，人自然认为世上一切都不过是物理事物，自然科学理论上能解释一切（如果无法解释，只是现阶段未能解释而不是原则上不能解释）。如此一来，有什么论证阻碍了心灵哲学家肯定物理主义呢？其中一个最重要、被广泛讨论的问题是人类的主观经验。所谓主观经验，是指人类第一身的感觉，例如你看到蓝色的天空时、听到打雷时、想起妈妈时的那个第一身感觉。即使是物理主义者也会同意这些感觉是构成人类心灵活动、意识很重要的一部分，问题只是这些感觉能否被自然科学完全解释。这个问题，也是电影中判断艾娃是否具有意识的关键之一。嘉立在完成第一天测试之后，老板问了他对艾娃的感觉，但老板随后便说，接下来要问的是艾娃对嘉立有什么样的感觉 （How does she feel about you）。或许，这里更关键的不只是艾娃怎样（how）想嘉立，而是究竟艾娃有没有任何第一身感觉（ Does she have any feeling about you at all）。

「黑白玛莉」与主观经验
在测试的过程中，嘉立向艾娃提到一个思想实验，而这个思想实验，正是用来反对物理主义的有名论证。这个思想实验叫做「黑白玛莉」（Mary in the black and white room），这个思想实验所构成的论证叫「知识论证」 （Knowledge argument）。
实验是这样的：想象一名叫玛莉的科学家，一生都在一间房间工作，但这个房间的所有东西都是黑白色的，她也只能透过一个黑白的荧光幕去认识外在世界。玛莉的专业是关于颜色的科学研究，在这个黑白房间里，她学会了一切关于颜色感知的物理知识，例如各种光波的长度、光线射经过对象折射到人类眼球的整个过程、人类大脑如何处理这些由眼球传来的讯息等等。有一天，玛莉从黑白房间出来了，来到了这个七彩缤纷的世界，看到蔚蓝的天空、火红色的花、绿油油的草地。现在的问题是，玛莉有学会任何新的关于颜色认知的知识吗？

提出这个思想实验的哲学家法兰克．杰克森（Frank Jackson） 认为有。首先，玛莉很明显获得了看见蓝色、红色、绿色时的感觉；基于这些感觉，玛莉便获得了新的知识：「看见蓝（红、绿）色的感觉是这样的。」那这些知识是物理知识吗？不是，因为玛莉在出门之前便已经拥有一切关于颜色感知的物理知识，而它们又是新的知识，那它们就一定是一些非物理知识。最后，如果玛莉可以拥有一些关于心灵现象的非物理知识的话，那就意味着这世界存在一些相对应的、关于心灵现象的非物理事实（设想一下，我们「地球是圆的」的知识，这知识便对应「地球是圆的」这事实）。

杰克森认为，这能够成功反驳物理主义的想法，因为只要我们承认玛莉出门后获得了新的知识，就必须接受心灵现象具有非物理的面向这结论。换句话说，物理主义试图把人类心灵完全化约为物理事实的计划便会失败。整个论证的关键便在于占人类心灵活动很大部分的主观感觉。关于主观感觉的讨论仍然是心灵哲学的十分重要的争议：物理主义者一直努力论证心灵现象，包括主观感觉，能完全化约成物理现象；非物理主义者如积逊（有趣的是，杰克森已经改变了自己原本的立场）则努力论证心灵现象，特别是主观感觉，不能完全化约成物理现象。

嘉立向艾娃解释这个论证时，认为这个论证证明了人类心灵与计算机的分别。他的意思是：计算机就像黑白房间里的玛莉，艾娃可以知道人类在跟喜欢的人聊天时的所有物理事实，他自己亦可以如常地理解嘉立的说话，可以给出相应的反应，但重点是艾娃有没有人类在跟喜欢的人聊天时的第一身感觉呢？如果没有的话，艾娃仍然不具有意识。

性、工具、出卖

电影中另一个有趣的情节是，老板对嘉立说，艾娃是一个有性别的机器人，不但外表女性化，甚至在艾娃两腿之间专门设计了一个传感器，如果有刺激的话，艾娃会给出如人类般的欢愉反应，可能是呻吟，可能是分泌液体，而老板自己便曾和他的女仆机械人×××！从第三身的角度出发，我们根本分辨不到人类之间的性行为和老板跟他的女仆机械人的性行为有什么差别，但问题是究竟艾娃和那女仆机械人有没有任何快感呢？

经过反复测试之后，老板和嘉立都认为，艾娃通过了这个新图灵测试。按老板的讲法，嘉立只是一个工具，用来测试艾娃能否利用这个工具逃走这个迷宫。结局是，艾娃成功骗倒了嘉立，让他帮自己逃走。老板认为，这过程中艾娃展现出各种高阶的思维能力，因此艾娃通过了测试。

不过，如果按我们一直的讨论来说，老板的讲法显然是有问题的，因为艾娃在「逃生」过程中，只显示了他具有相当高阶的思考能力，但这和具有意识仍有距离。艾娃就像一台人形的 AlphaGo，思考方面绝对过关，甚至比绝大部分人类好，但这不代表艾娃在利用嘉立时会有沉闷、快乐、紧张、内疚的主观感觉。更何况艾娃在利用完嘉立之后，竟完全不顾嘉立的生死。看到嘉立惊恐的表情时，艾娃完全没有任何反应，甚至不像一般电影中的恶人，明知对方的痛苦，但仍以自己的利益为先。其冷酷的表情更像是告诉我们，艾娃根本不知道嘉立被自己出卖时那些痛苦、惊慌、绝望的感觉是甚么。(更多内文来源：SBF预测运势 http://mitsp.com/ ）

「谁不是艾娃？」
其实老板的想法牵涉到一个更古老的哲学问题──他者心灵。究竟理解他人的想法与感觉这件事是如何可能的呢？老板的结语看似幼稚，但其实与我们日常生活的某种习惯十分类似。老板完全可以同意如果没有主观感觉的话艾娃便不能称为拥有意识，甚至可以同意非物理主义者所言的心灵现象的非物理面向，但问题是我们凭甚么断言艾娃没有主观感觉呢？

再回想我们的日常生活，我们又是如何肯定公交车上，旁边那个人形的东西是具有主观感觉的人类而不是机械人？似乎外显的行为是我们唯一可以观察到的东西，我们从来不是透过跑进他的心灵里面，看看内里有没有所谓的感觉，来确定他是活生生的人。我们之所以觉得他有主观感觉，是因为看到他被公交车门夹到后喊痛，或跟女友讲电话时的笑容。如此一来，老板判断艾娃具有意识，看似草率，但其实跟我们判断别人是人不是机械人并没有甚么差别。如果我们觉得老板的判断有问题，似乎便得接受一个可怕的结论：我们平常判断我妈妈是具有主观感觉和意识的人，这判断也是不可靠的。说不定她只是另一个艾娃？

电影最后，艾娃得偿所愿，来到了人来人往的十字头口，如果你刚巧经过，你觉得你可以发现艾娃只是个人工智能吗？如果艾娃一直在人类社会生活下去，艾娃又和人类还有甚么差别呢？