关于AI的三个故事〈一〉

Posted 2020-11-01

本期导读：一个机器人拥有了意识，它对老板做了怎样的事情？一位专攻机器人的大牛，她有怎样的历程？一个十一岁的孩子，他玩儿着游戏就毁掉了一个星球？

《机器姬》：如果人工智能拥有了意识……

虽然是人工智能类的电影，但《机器姬》一点儿也不烧脑。电影主要围绕着三个人——从影片的结尾来看，艾娃显然也是人了——展开，向我们展示了对人工智能可能吞噬人类的思考和担忧。

这样的担忧是有理由的。比如现在人工智能深度学习的“黑箱”：我们知道机器给出了1+1等于2的结果，但是怎么算的，并不清楚。

这也正是人工智能有可能成为威胁的原因——在计算的过程中，会发生些什么事情，我们还无法掌握。

狂热的分子：造出真正的机器“人”

就如这部电影。内森在秘密的丛林里从事着一件几乎可以颠覆人类的事业：开发出具有人类意识的机器人。因此，他从自己的公司里挑选了一位年轻人——迦乐——来到自己的秘密基地，来完成一项著名的实验：图灵测试。

所谓图灵测试，即将测试者与被测试者隔开，通过键盘等装置进行提问。如果有超过30%的测试者不能确定对方是否是人，那么就可以说状这台机器具备了人类智能。内森之意图，就在于此：他想知道，自己造出的机器人是否真的具备了人类意识。

被测试的机器人艾娃此前从来没有离开过自己的房间。艾娃拥有着姣好的面容，但除了手脚和面部之外，她并全身其他地方并没有皮肤。通过接触，迦乐慢慢对艾娃产生了感情，并试图和艾娃一起谋划着逃出此地。

机器人还是机器婊

而这一切都被内森所监控。他获取了逃跑计划，以逸待劳。但剧情在此时发生了反转：迦乐在当天晚上已经在停电的时候改写了安全程序，因此艾娃也顺利地逃出了房间。当内森出门阻止的时候，艾娃则联合另外一名娱乐机器人杏子，将其杀死。

艾娃离开了地下室来到了外面，并融入了人类世界。但她也并未救出被困在地下室的迦乐，而是任其自生自灭。

电影结束，我们才恍然大悟：原来艾娃从一开始就已经具备了意识，通过以机器人特有的语速和迦乐问答以骗过内森、利用迦乐对自己的感情帮自己出逃、通过煽动杏子以让其联合自己杀掉内森……这哪是机器人？这是机器婊啊。

这也正是影片所意图表达的深层思考：高度发达的人工智能一旦产生了意识，对人类将是一个巨大的威胁。当意识处在同一水平，但智商和计算速度却天壤之别，人类会将自己的世界拱手让出吗？

这显然是一个问题。

Cynthia Breazel：不止于工具，机器人还有情感和社交

人工智能在当下的应用已经十分广泛，工业制造机器人、家庭扫地机器人甚至是智能音箱，在广义上都可以被称为机器人。而有这样的一位科学家，她专门研究机器人学，并被公认为是社会机器人学和人机交互的先驱。

开启生涯：先做几个机器人玩玩

麻省理工学院媒体艺术与科学副教授Cynthia Breazel是个不折不扣的机器人狂。她的博士毕业论文就是围绕着自己开发的机器人kismet展开，来研究人类与人形机器人之间的社会交流。值得注意的是，在当时，很多人认为kismet毫无用处，并且机器人在情感和社交领域是没有可能的。

这些舆论并不能阻止她的脚步。在kismet之后，Breazel团队对又开发出了其继承者Leonardo，且被用于研究机器人的社会认知和心智能力理论，并开发了其社会学习的能力，比如对外界的模仿、对人的监护等。

基于对Leonardo的研究，新一代机器人nexi又被开发出来，其以结合了丰富的社交能力和移动的灵活性为特点，被《时代》杂志评为2008年50大最佳发明之一。三代机器人的开发为Breazel 以后研究更复杂的人机交互奠定了基础。

2014年可谓Breazel极为受到关注的一年。这年的7月份，她以众筹的形式获得了超过8000万美元的资金，用于最新的人机交互机器人Jibo的开发。在经历了诸多波折之后，Jibo最终在2017年11月发布，并再次被《时代》杂志评为2017年最佳发明之一。

机器人梦想：让Jibo成为情感和助手

作为一款主打家庭社交场景的机器人，Jibo的外形非常讨人喜欢。问题在于，从2014年到2017年，人工智能的发展非常迅速，能够体会人类的情感并提供个性化服务也成为了众多厂商研发人工智能产品的一个方向。2014年提出要做Jibo的时候，其创意可谓轰动不已；但三年之后，竞品齐上，Jibo也丧失了人无我有的优势。

Brezael毕竟还是有长久的机器人研究的知识积累，其很快就对Jibo做出了更新调整。在今年四月份，其又为宣布推出一款编程应用程序Be Maker，用以允许孩子们利用其程序来为Jibo创建定制的程序。这款程序的推出，也就将Jibo还不如echo show的论调彻底推翻。不仅能够完成娱乐和情感交互，还能激发孩子的创造力和想象力，也是Jibo的更高层的定位。

当然，Breazel也不会满足于这些。推出更多的功能来完善Jibo的人机交互能力，让其成为名副其实的社交机器人：不仅聪明，而且走心，才是她孜孜不倦地追求的目标。

《安德的游戏》：我还是个孩子，承受不了太多

虫族为了繁衍和生存，分别对地球进行了两次入侵。第一次，因为装备太差，被打败了。第二次，由于被地球指挥官马泽发现了弱点，在千钧一发之际被击溃。

于是，面对着可能的第三次入侵，国际舰队开始寻找合适的儿童进行训练，以便取得最后的胜利。我要在这里提前告诉大家，这是一个儿童拯救世界的故事。

初阶训练：柔弱的翅膀硬了

每一个婴儿出生的时候就在体内被植入了个监视器。通过这个监视器，高层能够洞悉他的一切，包括思维、行动、情感等。

他们选中了安德。值得注意的是，在那个时代是没有老三的。而安德，是为数不多的珍贵的老三。据说是因为他还在娘胎的时候就已经被认定有很强的可塑性。

安德在被带离地球并参加各种层级的训练的时候只有六岁。凭借着超人的智慧，安德成长迅速，领导很重视，认为这孩子应该进一步深造。于是在他十岁的时候，就离开了“幼儿园”，去空间站开始承担更为重要的任务。

在空间站，他遇到了被整个地球视为英雄的、击退了第二次虫族入侵的马泽。马泽告诉他，虫族的第三次入侵随时都会到来，自己必须要接受一些列紧张的训练和模拟。于是，安德每天都在接受着马泽的考验，一日一日地用计算机对抗着由马泽模拟的虫人的进攻，但他始终不知道何时虫族将会开启第三次入侵。

当安德被越来越高强度的模拟快要搞垮了的时候，马泽找到他，告知第二天将会进行最后一次模拟，而且是非常残酷的、难以想象的训练。

第二天，电脑屏幕上，安德看到了一颗星球，和2000:1的战斗舰只比例……

人类的英雄还是虫族的屠夫？

凭借着一个十一岁孩子的勇气和智慧，他做出了要用名为“小医生”的超级核武器干掉这颗星球的决定。当然，这需要一些先部队以极快的速度绕过那庞大的舰队，而且一旦投下这颗大核弹哪些先头舰队肯定也是有去无回。

他成功了。

当安德回头的时候，发现所有的人都在向他表示祝贺。他还纳闷就赢一个模拟对抗，至于这么兴师动众嘛？高层领导告诉他，没有模拟。他指挥的，就是一场实战。整个虫族和他们的星球，都已经化作一团烟云了……不仅是这最后一次，包括他之前的所有模拟，其实都是实战。所有人都知道，只有安德一直以为是游戏。

也就是说，所谓的第三次入侵，其实根本就看不出来有这回事。根本不是虫族将对人类进行入侵，而是人类对虫族的入侵。

安德崩溃了。一个十一岁的孩子，他亲手杀了数以百亿的虫族居民，他摧毁了一个星球……

这是一件对安德很残忍的事情。马泽在最后解释，这个任务的指挥官必须同情虫族，才能像虫族一样思考，才能从虫族的角度去思考行动，而同情心是不能让人成为残酷的将领的。另外，每一个知道战争危害的人都不可能全身心投入到战争当中，只有游戏才能不计后果。

在这种情况下，针对虫族的残忍发生了。人类选择主动入侵虫族，就改变了整个星际战争的性质。他们得到了自己想要的结果，毁灭了整个虫族和他们赖以生存的星球。一个十一岁的孩子杀了数以百亿计的生灵，他承受的东西可能有点太多了……

所以，安德在最后被包装成了人类的英雄，但其内心却是挣扎的，这也折射出了这部小说交给我们思考的一个问题：巨大的欺骗感和万众瞩目的英雄，你会俯身于哪个？