人工智能/虚拟现实技术的工程伦理分析：以电影《头号玩家》为例

Posted 2023-04-05 乔卿

CSDN话题挑战赛第2期
参赛话题：人工智能的【能】与【不能】

*人工智能已经迎来第三次浪潮，一方面，人工智能已经应用于社会的方方面面，并日益发挥着无可替代的作用；另一方面，人工智能存在着局限性以及争议。

本文聚焦于人工智能的一个争议点：人工智能的工程伦理问题，以电影《头号文件》为例，分析技术可能带来的工程伦理问题，与技术开发人员应有的思考。

背景

《头号玩家》是一部2018年上映的、由史蒂文·斯皮尔伯格执导的科幻电影，构造了一个未来的人们逃避现实、沉醉虚拟世界的时代背景，由此深刻地讨论了虚拟现实等技术带来的一系列伦理问题。

故事是这样的：人们将VR游戏“绿洲”作为精神寄托，这一虚拟的VR游戏宇宙成为了全世界的潮流。不论一个人在现实中贫穷还是富有，在这个虚拟的世界中，都有公平的机会成为拯救世界的英雄。“绿洲”的创始人、完美主义者哈利迪将毕生的财产留到了游戏里，任何获得三把钥匙的玩家都可以获得他的全部财产以及对“绿洲”的拥有权，这引发了全世界范围内的激烈竞争，由此引发了一系列伦理问题。一家名为IOI的、绿洲的竞争公司为了能够控制绿洲，甚至大量雇佣劳工争夺能够取得财产的钥匙，并在现实中通过其强大的财力，大力打压游戏中的头号玩家。男主人公凭借着对游戏的极高天赋以及对其设计者的深入了解，与女主角一行合作，一步一步解开游戏谜题，最终取得了三把钥匙。他们发现，那些游戏中的谜题，其实都是哈利迪对现实、对自我的反思。

技术分析

下面让我们从工程伦理的角度分析这部影片。在电影《头号玩家》中，核心的技术是网络通信技术与虚拟现实技术。虽然是科幻电影，但事实上，这些技术在现在也已经被广泛应用，因此我们的讨论不仅仅是针对于电影本身，更是由电影内容出发，广泛地讨论现实中的虚拟现实技术带来的工程伦理问题。

个人评论

电影中的启示

总的来看，《头号玩家》主要探讨了虚拟与现实的分界，这首先是一个媒介成瘾的伦理问题。在我们的现实中，虽然已经有非常多的虚拟现实游戏，但是由于通信技术与处理器技术的不成熟，虚拟现实的拟真程度还远远不够，因此还没有出现VR的高峰。5G的通信难以支撑起足够低延迟、高负荷的游戏过程中的网络传输，同时目前的处理器的运算能力对于图像与视频的处理能力同样使得“绿洲”一般的虚拟世界可望不可及，因此在当前的社会还没有“媒介成瘾”。但必须指出的是，随着各方面技术的发展，并根据商业趋利的本质来看，今后的某一天必然出现类似于电影中的“绿洲”一样的虚拟宇宙，我们可以从电影中的一些情节对成瘾问题进行探讨。

首当其冲的自然是开发这款游戏的公司。但事实上，我们可以看到，游戏开发者哈利迪的初心是向善的，他并不愿意在游戏中加入太多的条条框框，他不愿将自己的理想国沦为赚钱的工具，这些在他设置的谜题中都有所体现。不可否认的是，作为技术的开发者，必须要对技术可能造成的伦理问题充分权衡、充分负责。

电影中的IOI公司才是更应该被批评的对象，他们更应该为工程伦理问题负责。同样作为开发公司，没有负好应该负的责任。他们仅仅想着怎样获得更高的利益，比如怎样投放广告、怎样让人更加上瘾。哈利迪曾和他的同伴讨论过游戏本身与规则的关系，这一部分非常精彩地揭示了我们在发展工程的同时也要“倒退”一下——回顾发展工业科技的初衷。随着游戏越做越大、用户越来越多，不可避免地要引入越来越多的商业内容，但毫无疑问，要有个度。

现实中开发者应有的思考

我们由电影回到现实，来看一下现实中的启示。以虚拟现实技术为例，作为技术的开发者，我们必须对这一技术在各方面带来的负向价值进行充分的评估，重视一项新技术可能对人的身心健康带来的负面影响。在这一技术中，开发人员应被建议掌握虚拟现实技术的负向价值的消解原则，自觉承担作品可能带来负面的伦理问题的责任，包括但不限于：

• 用户的成瘾问题（游戏机制是否过于易于上瘾并且是否考虑了防沉迷机制）
• 隐私保护问题（用户的个人数据是否是安全的、私密的）
• 工程开发的质量问题（是否在开发方面投入了足够多的人力物力而不是销售方面，是否进行了足够的测试之后才投入市场）
• 追逐利益与负好社会责任的平衡问题（比如为了追求利益加入广告，但广告的审核同样需要负责）

参考文献

[1] 头号玩家[EB/OL]//百度百科. [2022-04-21].
https://baike.baidu.com/item/%E5%A4%B4%E5%8F%B7%E7%8E%A9%E5%AE%B6/22040855?fr=aladdin.
[2] 吴彩云. 《头号玩家》:解读后工业视域下的价值迷失[J]. 电影文学, 2019(06): 97-99. [3] 任丰雪.
《头号玩家》中虚拟现实的应用研究[J]. 喜剧世界(下半月), 2020(09): 77-78. [4] 苏月奂.
《头号玩家》的伦理维度解读[J/OL]. 山东师范大学学报(人文社会科学版), 2019, 64(02): 140-146.
DOI:10.16456/j.cnki.1001-5973.2019.02.013. [5] 徐鹏.
虚拟现实技术使用的负向价值研究[D/OL]. 成都理工大学, 2018[2022-04-21].
https://kns.cnki.net/kcms/detail/detail.aspx?dbcode=CMFD&dbname=CMFD201901&filename=1018265123.nh&uniplatform=NZKPT&v=Tvz_PE7YN7-ZWFj-ObaaegK2BaLJcFbXhPLNtCHHcHNmU38bO4nuTe0G9lO1l2Dw.

针对“人类增强”的工程伦理分析

人类增强（Human Enhancement）是一种争议中的技术概念，是指所有开发、制造及推动各种广泛可用的技术来消除残疾、疾病、痛苦、衰老和死亡等不利于人类生存与发展的消极问题，同时极大地增进人的智力、生理和心理能力的尝试。人类增强的主要目标包括：超级长寿、超级智能、超级幸福、超级能力。

工程伦理是工程与人类、社会以及自然之间的关系准则，其主体是以工程师为主的工程参与者，强调以结果来评价工程的正当性，并外在地表现为工程师群体的职业公德。

人类增强（Human Enhancement）为了达到超级长寿、超级智能、超级幸福、超级能力的目标，有两个主要的实践方向：削弱和增强。削弱对人类生存与发展不利的因素，如生老病死以及残疾。增强人类自身应对外界的能力，包括智力、生理能力、心理能力等。此工程主要涉及了三组群体间的关系：技术开发者与全体人类的关系，社会中的不同阶级间的关系，人类与自然界的关系，分别产生了技术风险伦理问题、社会公正伦理问题和环境伦理问题。

第一，工程都是存在风险的，它们可能来自于不完善的技术，这一类风险被称为技术风险。工程师作为人类群体的一份子，必须要时刻考虑技术风险给全体人类带来的影响。当它们可能对人类的生存造成极大威胁时，工程师必须采取有效的措施进行预防，或者在成熟的风险控制手段出现之前推迟工程的开展。具体来看，人类增强作为一项前所未有的尝试，存在着大量的隐患。在实验和测试环节，可能制造出失去控制的超级人类，也有可能导致不可逆的人类退化。在其调试与应用阶段，任何一个没被彻底排除的bug都会在所谓的人类新未来中埋下一颗定时炸弹（这是最难以预测，也是最致命的）。上述猜测中，发生任意一项，结果都将是灾难性的。

第二，在社会的不同阶级间将暴露出人类增强工程的社会公正伦理问题。公平正义是人类社会长久以来的不懈追求，更是关于社会关系的恰当性的最高概念。对于工程而言，工程产品是其与社会连接的纽带，忽视产品的服务对象及其可及性将引起严重的公正问题。诸如人类增强这样尖端、稀有的技术，必不可能同时满足全世界所有人类的需要。那么谁应该成为第一批获利者呢？通过价格调控显然是不行的，因为这将导致进一步方法社会中的贫富差异。那么，随机抽取吗？但进一步地，谁来组织分配，谁又来监督分配呢？即使不通过价格进行调控，人类增强还是更容易被权力大的团体所掌握。在此基础上，受到增强的小部分精英将进一步提高自己在社会中的竞争力，更多的资源将向他们倾斜。于是，社会的阶级鸿沟将越来越大，而这显然是不利于社会公正的发展的。

最后，人类增强技术还会在人类与自然界之间挑起环境伦理问题。环境伦理强调自然界及其事物的内在价值以及与其价值相关的权利。一个遵守环境伦理规范的工程师需要尽可能地保护自然界的内在价值与相关权利。而人类增强的全面推广，是可能对自然界产生极大消极影响的。一方面，许多人类疾病是由微生物导致的。一旦人类免受此类疾病影响，即意味着相关微生物的灭绝。（虽然这些微生物对人类的生存是一种威胁，但其内在价值是否可以因此被彻底否定呢？）另一方面，许多高级生物与人类共同生活在自然界中，过于强大的人类将进一步挤压它们的生存空间。不仅如此，我们甚至可以设想，能够适应更加严酷环境的人类，可以通过环境的破坏来消灭任何威胁自己的生物。除此之外，一些更加极端的自然主义者，可能会指责改变人类这件事本身就是违背自然伦理的，因为人类本就是自然的一部分，强行改变即意味着破坏。所有这些对自然界的消极影响，都应该纳入工程师的考虑中。

总的来说，人类增强技术在技术风险伦理、社会公正伦理、环境伦理上有诸多亟待权衡的矛盾。工程参与者有义务审慎考虑，协调好人类增强技术与人类、社会和自然之间的关系。