未来的人工智能，不一定都是善意的！

Posted 2020-12-11 jinsexiaomifeng

　　未来的人工智能，不一定都是善意的！

　　我一直都很喜欢电影中的机器人，坏机器人我也喜欢。但令人不安的是，我们身边的机器变得越来越聪明，因此我们没有理由不担心带有恶意的人工智能——也就是某个版本的终结者或HAL（出自《2001太空漫游》）——最终将闯入现实世界。

　　当然，我并不是唯一一个持有这一悲观观点的人。史蒂芬·霍金（Stephen Hawking）曾警告说：“自主型人工智能技术的开发将让人类走向终结。”牛津大学哲学家托比·欧德（TobyOrd）在其令人振奋的著作《绝境》（The Precipice）中审视了一系列可能导致人类灭绝的威胁，例如小行星、核战和气候变化，将“背叛的人工智能”列为其中最有可能发生的一项。

　　看看最近介绍有关人工智能的书作，专家们有关“奇点”（人工智能超越人类智慧的时间点）不会马上到来的共识给了我些许安慰，他们有的认为需要数十年的时间，有的则认为需要数个世纪。然而，我们并不能掉以轻心，因为这些作者认为，有关机器人在未来成为霸主的焦虑，转移了我们对近期“狭义”人工智能威胁的关注，这类人工智能技术支撑着众多事物，从智能扬声器到自动驾驶汽车等等。

　　对于某些人来说，这类人工智能看起来很聪明，但却是善意的，只不过是一个可执行某类任务的数字傻瓜仆人，例如从A点行进至B点，不要碰到障碍。但正如迈克·卡南（Michael Kanaan）在《倒计时AI》（T-Minus AI )一书中所提到的那样，人工智能也可以冷酷无情地干坏事。卡南呼吁立即展开对话，探讨人工智能应用不设限的后果，以及如何设置防护措施，来保护我们的自由和安全。

　　威廉姆·达维多（William Davidow）与迈克·马龙（Michael Malone）的著作《自动化革命》（The Autonomous Revolution）以及丹尼尔·萨斯坎德（Daniel Susskind）的《一个没有工作的世界》（A World WithoutWork）都不约而同地谈到了现有人工智能带来的风险。他们并不认为人工智能的崛起只是一场会创造大量新工作的技术变革，例如工业革命，只不过同时也会导致众多工作的消失；他们认为，人类正处于一个历史转折点，当前，独特的智能化技术在越来越多的任务中超越了人类的表现，而且最终可能会取代众多人类的工作。

　　科技行业高管达维多与记者兼创业者马龙表示，人工智能并不会像之前的技术进步一样，带来能够提升GDP和富裕度的生产力改善，它可能会提升生产力，但会导致GDP下降。一个可能的结果是：大量的劳动力变得越发便宜，薪资水平下降，经济不平衡加剧，工作机会减少，以及“数百万‘零经济价值’”劳动力（也就是那些即便免费为你工作你也不会聘请的劳动力）涌现。

　　经济学家、英国政府前政策顾问萨斯坎德持有类似的观点。他认为，随着人工智能的崛起，人类可从事的活动将不断减少。卡车司机+GPS是一个强有力的组合，然而，当人工智能成为驾驶员和导航者之后，美国350万卡车司机将会失业。即便那些依赖于最为人性化的特征（同理心、判断力和创意）的工作可能也无法幸免于难。机器可能永远都不会具有医生对于某项“诊断”的直觉，或像作曲家一样进行沉思，但它们确实会学习如何模仿这些人类行为，而且学得非常逼真，让人类自己也难辨真假。

　　然而，这些作者的确看到了人类即将步入的世界，一个工作机会更少、不平衡性加剧的世界。他们认为会出现新的监管机构（例如，萨斯坎德预测会出现一个名为政治权力监管局的机构，来控制那些权力过大的公司），而且政府会加大干预力度。达维多和马龙提出，如果自由市场解决方案无法解决问题，那么等待我们的将是（请勇敢面对）“财富重新分配的体制，例如更高的税收、免费的全民医疗，以及全民基本收入”。

　　“没有哪个工作能够幸免于难，我对这一观点已经深信不疑，也十分期待深入探讨。”凯文·斯科特（Kevin Scott）在《重构美国梦》（Reprogramming the American Dream）中提出积极观点。微软首席技术官斯科特预测，农民工将迎来大量的新工作，尤其在制造业领域。他信誓旦旦地说道：“人工智能说到底是给人类赋能，而不是取代人类。”确实，他描述了众多人工智能、机器人和自动化将创造的蓝领工作。例如，一位企业家建立了一家基于计算机的精细化塑料编织企业，其中“有机械工文凭的某个人……即便没有接受多少岗前培训，都可以在一个不起眼的小城镇拿到一份高薪工作”。斯科特还提到了全新类型的工作——为人工智能提供支持：用于训练人工智能的数据标记工作，人类运行的机器人临时工中介，以及巨型数据中心的建造工作，例如微软在弗吉尼亚州占地500英亩的设施。斯科特这个充满希望的观点在很大程度上回避了大家不愿谈论的话题：这些新工作能否完全取代那些消失的工作岗位。

　　这些作者可能在一些具体的问题上出现分歧，但他们对未来均保留着乐观态度。他们基本上认为，关键在于在当前设立能够避免未来最坏结果的规则和制度。正如卡南说的那样，我们需要确保人工智能技术“只能以符合人类基本尊严的方式来实施……而且只能用于与民主理念、自由和法律相一致的目的”。

　　你认为人工智能会怎么看待这个计划？当卡南让机器学习应用GPT-2的一个版本来即兴谈论对这一理念的看法时，它立即给出了完美的回答：“如今，我们的重点工作是让公众相信，使用人工智能来实现这些目标对于人类社会来说是必要的，也是可取的……然而最终，未来会要求我们做出道德的决策，而我们也将开始打造一个真正安全和可持续的世界，一个人类和人工智能可以真正共存的世界。”

　　尽管机器并不像人一样知道自己都写了些什么，但我们至少看到了自利的影子，并多少洞悉了未来的模样。