人工智能让程序员自危：码农大批失业

Posted 2020-09-26 Hanson

在计算机发明之前，大部分实验心理学家都认为，大脑是一个不可知的黑盒。你可以分析对象的行为，例如摇铃狗就会流口水，但思维、记忆和情感究竟是什么？在科学以外，这类东西模糊不清，很难捉摸。

因此，这些自称行为主义者的主要研究集中在刺激与反应、反馈和强化的关系，即摇铃如何导致狗流口水。他们放弃了对人脑内部机制的探索，而他们也主导了这一领域40年时间。

随后的50年代中期，一批颇具反叛精神的心理学家、语言学家、信息理论学家，以及早期的人工智能研究员提出了关于思维的不同概念。他们认为，人脑并不是条件反射的综合体。人脑吸收信息、处理信息，随后在这些信息的基础上采取行动。人脑具备写入、存储，以及调用记忆等功能，是一种富于逻辑的体系。人脑并不是黑盒，而是更类似计算机。

这种所谓的认知革命最初规模不大，但随着计算机成为全球心理学实验室的标配设备，这一理论得到了更广泛的接受。到70年代末，认知心理学已经超过了行为主义心理学，同时也带来了讨论人类思维的一套新语言。心理学家开始将思维描述为计算机程序，而商业人士也开始关注，当代工作场合中人类思维的容量和处理能力限制。

这样的故事多次上演。随着数字革命深入我们每个人的日常生活，这也渗透至我们的语言，以及我们有关事物运行法则的基本理论中。技术总是可以做到这点。在启蒙时代，牛顿和笛卡尔促使人们将宇宙视为精密的时钟。在工业时代，扮演这一角色的是带活塞的机器。(佛洛依德关于精神动力学的概念借鉴自蒸汽机的热动力学。)现在我们迎来了计算机。从基础来看，这是个赋能的概念。因为如果世界是一台计算机，那么世界就可以被编程。

代码有逻辑，代码可以被黑客修改，代码有自己的目标。这就是数字时代的核心原则。用知名风投马克·安德森(Marc Andreessen)的话来说，软件正在吞噬世界。在这一过程中，我们周围密布着机器，能将我们的行动、思维和情感转化为数据，而工程师可以对这些原始数据进行加工。我们已经看到，生活本身被一系列指令所主导，而这些指令可以被发现、探索、优化，甚至改写。

企业利用代码去理解人类最亲密的关系：Facebook的马克·扎克伯格(Mark Zuckerberg)甚至表示，“基本数学定律是人际关系的基础，而这些人际关系维持着人们最关心的人和事的平衡”。2013年，克雷格·温特(Craig Venter)宣布，在试图解码人类基因的10年后，他开始进行编码，以创造合成的生物。他表示：“情况很明显，这个星球上我们已知的所有细胞都是由基因软件驱动的生物机器。”一些文学作品也坚称，你可以修改自己的源代码，重新编程你热爱的生活，睡眠习惯和消费习惯。

在这样的世界中，编写代码不仅是必要技能，也是一种帮助人们深入了解事物内部状态的语言，被视为获得力量的途径。未来学家马克·古德曼(Marc Goodman)表示：“如果你控制代码，那么就控制了世界。”《彭博商业周刊》的保罗·福特(Paul Ford)略显谨慎：“如果说程序员没有运行世界，他们至少控制着运行世界的工具基础。”

无论你是否喜欢这样的状态，或者说无论你是一名编程精英，还是连智能手机的设置菜单都用不好的菜鸟，你都不必习惯于这样的状态。我们的机器正在开始使用不同的语言，而即使是最优秀的程序员也无法理解这种语言。

过去几年，硅谷最大的科技公司正在积极发展新的计算技术，即机器学习。在传统的编程方法中，工程师写下精确的指令让计算机去执行。而对于机器学习技术，程序员编写的并不是让计算机去执行的指令。程序员只是训练计算机。如果你希望让神经网络去识别小猫，那么不需要告诉计算机小猫的长相，例如眼睛、耳朵和皮毛。你只需向计算机展示成千上万的小猫照片，随后计算机自己就能在图片中找出小猫。如果你将狐狸的照片混在了小猫照片中，那么也没有关系，你只需要给予计算机大量正确的训练即可。

这样的方法并不新颖，出现时间已有数十年，但直到近期才变得更强大。这部分是由于深度神经网络的兴起。这样的大规模分布式计算系统模拟了大脑中的多层神经元结构。无论你是否意识到这点，机器学习都已经在我们的在线活动中扮演了重要角色。

Facebook使用机器学习去判断，将哪些内容投放至你的消息流。谷歌照片使用机器学习去识别照片中的人脸。微软的Skype Translator能实时翻译不同语言之间的对话，而基础也是机器学习。无人驾驶汽车利用机器学习去避免交通事故。甚至谷歌搜索引擎也开始依靠深度神经网络。

今年2月，谷歌任命机器学习专家约翰·吉安南德里(John Giannadrea)为搜索业务负责人，并启动新项目给工程师培训这一新技术。吉安南德里表示：“通过开发学习系统，我们不需要再编写这些规则。”

不过问题在于：在机器学习系统中，工程师无法知道，机器如何去完成自己的工作。神经网络的运行很大程度上不透明，令人无法捉摸。换句话说，这是个黑盒。随着这样的黑盒在我们的日常生活中扮演越来越重要的角色，它们不仅将变革人类与技术之间的关系，将改变我们对自己、对世界，以及对我们与世界关系的思考。

如果说在传统观念中，程序员就像是上帝，是计算机系统规则的制定者，那么现在他们更像是家长，像是宠物的训练者。作为家长或者宠物的主人，你与孩子或宠物的关系将会有些说不清、道不明。

程序员将遭遇变革

安迪·鲁宾(Andy Rubin)是资深的发明家和程序员。作为android系统的联合创始人，鲁宾的办公室和家里摆着各种机器人，这点在硅谷已人尽皆知。他自己为机器人编程。他表示：“在我还很年轻时，我就深入至计算机科学。我喜欢计算机是因为，我可以消失在计算机的世界里。这就像是一块白布，我可以从头开始创造些东西。在许多许多年中，这给我带来了一个完全受控的世界。”

然而他现在认为，这样的世界正走向尾声。机器学习的兴起令鲁宾感到兴奋。他的公司Playground Global投资了机器学习行业创业公司，对自身的定位则是领导智能设备的发展。不过，这也令他有些遗憾，因为机器学习改变了关于工程师的定义。

鲁宾表示：“人们不再一步步编写程序。在神经网络知道如何识别语音之后，程序员无法介入，看看机器是怎么做到的。这就像是你的大脑。你不可能把头砍下来，看看你在想什么。”如果工程师想要窥探深度神经网络的内部，那么他们看到的将是数学的海洋，利用多层微积分计算去判断数十亿数据点之间的关系，从而完成对世界的猜测。

人们最初对人工智能的设想并非如此。直到几年前，主流人工智能研究员仍认为，如果想要开发出智能体，那么我们必须给机器灌输正确的逻辑，只有编写足够的规则，我们才能开发出足够精密的系统，去理解整个世界。他们大多没有注意到机器学习的早期发展，甚至诋毁这一技术。在很多年时间里，计算机的性能不够强大，而机器学习的优势体现不出来，因此这样的观点占了上风。

致力于人工智能的斯坦福大学前教授塞巴斯蒂安·斯伦(Sebastian Thrun)表示：“大部分争论集中于固有观念，即人脑如何组织世界，以及人脑的运转方式。神经网络没有任何符号或规则，只有数字。这令许多人感到不能理解。”斯伦开发了谷歌的无人驾驶汽车。

除此之外，无法理解的机器语言还带来了更现实的问题。过去20年，学习编程可以说是找工作的捷径，许多家长都在让孩子们额外学习编程。然而，由神经网络主导的深度学习机器需要完全不同的能力。随着机器导致传统技能的边缘化，分析师已开始担心，人工智能对就业市场的影响。程序员可能很快就能亲身感受到这一点。

知名科技行业人士蒂姆·奥莱利(Tim O‘Relly)表示，传统编程不会彻底消亡，在很长一段时间里我们仍需要程序员，不过这样的需求将逐渐下降，而编程将成为一项“元技能”。用艾伦人工智能研究所CEO奥林·艾奇奥尼(Oren Etzioni)的话来说，编程的目的将变成为机器学习的运行“搭脚手架”。量子力学的发展并没有彻底打破牛顿经典力学，而代码仍将带来强大的力量，并且是我们探索世界的工具。然而，在提供特定的功能方面，机器学习将会代替我们去做很多工作。

当然，人类仍需要去训练这些系统。但至少目前来看，对编程技能的需求将会下降。未来的职位不仅需要对数学的掌握，还需要关于教育的直觉。谷歌DeepMind团队负责人德米斯·哈萨比斯(Demis Hassabis)表示：“这就像是一种艺术形式，提炼出系统中的精华。目前全球只有几百人擅长此道。”不过，就是为数不多的这些人在短短几年时间里推动了科技行业的转型。

人类与技术将是何种关系？

除了影响找工作之外，这一转型还将带来明显的文化意义。如果说人工编写的软件带来了对工程师的崇拜，以及人类体验可被浓缩至一系列可理解指令的观念，那么机器学习将带来相反方向的变化。推动宇宙运行的代码可能是人类无法分析的。例如，谷歌目前正面临着欧洲的反垄断调查，称该公司过度影响了搜索结果。如果谷歌自己的工程师也无法弄明白，搜索引擎算法会将什么样的结果放在首位，那么这样的指控将非常困难。

过去一段时间，这种不确定性正在爆发。最简单的算法也可能导致无法预期的结果，这已经不算新闻。这可以回溯至混论理论和随机数发生器。过去几年，随着网络越来越复杂，功能越来越多，代码变得越来越令人看不懂，而机器中的幽灵也让人觉得难以控制，无论是飞机事故，股市的迅速熔断，还是大规模的停电。

由于这种力量的兴起，技术专家丹尼·希利斯(Danny Hillis)已准备宣告启蒙时代的终结。在这一时代里，我们相信逻辑、确定性，以及对自然的控制。希利斯表示，我们正在进入“纠缠的时代”。“随着技术产物变得更复杂，我们与它们的关系也将改变。”他在《设计和科学期刊》上表示，“我们不再是这些产物的主人，我们需要与它们协商，劝导他们、引导他们去实现我们的目标。我们建立起了丛林，而丛林里有自己的生物。”机器学习的崛起是这一旅程中的最新一步，也可能是最后一步。

这样的现实令人恐慌。在一般人看来，编程是需要通过培训班学习的技能，程序员至少是人类。然而目前，这些科技精英对他们作品的指挥能力正在弱化，甚至已经无法直接去指挥。这一领域的公司已经发现，机器行为很难控制。去年，谷歌的照片识别引擎将黑人标记为大猩猩，而谷歌对此做出了紧急道歉。谷歌的解决办法很粗暴，禁止系统将任何东西标记为大猩猩。

这意味着，在即将到来的时代里，我们的主动权将被让渡给机器。知名物理学家史蒂芬·霍金(Stephen Hawking)表示：“可以想象，这样的技术将会比金融市场更聪明，在发明能力上超过人类研究员，对社会的操控技巧胜过人类领袖，而开发出的武器将是我们无法理解的。人工智能的短期影响取决于控制者是谁，但长期影响在于谁能控制人工智能。”这样的观点也得到了伊隆·马斯克(Elon Musk)和比尔·盖茨(Bill Gates)等人的响应。

不过，这样的担心不必太过：“天网”还没有到来。我们只是在了解与新技术互动的规则。目前，工程师已经找到了某些办法，以可视化的方式呈现深度学习系统的内部情况。但即使我们无法完全理解机器的思考方式，也并不意味着我们对机器无计可施。未来，我们不会太关心机器行为的底层基础，我们将学会专注于行为本身。代码的重要性将会下降，而用于训练机器的数据变得越来越重要。

如果说这听起来似曾相识，那么是因为，这看起来就像是20世纪的行为主义理论。实际上，机器学习算法的训练过程常常被拿来与20世纪重要的行为主义实验做对比。巴甫洛夫训练狗流口水并非通过对饥饿感的研究，而只是不断重复某个事件。他多次提供数据，直到代码对自己进行重写。而在行为主义者看来，他们能够控制自己的研究对象。

斯伦表示，长期而言，机器学习的影响将逐渐普及。现在，你不需要了解html就能开发网站，而未来你也不需要博士水平的知识就能利用深度学习的强大力量。只要知道如何训练宠物犬，人们就可以利用机器学习。斯伦表示：“对我而言，这是编程领域最酷的一件事，因为现在任何人都能编程。”

在计算发展史上，我们常常采用由内而外的方式去了解机器如何工作。最开始，我们编写代码，而机器表达代码。这样的世界观有一定的灵活性，但也意味着某种基于规则的确定性，即事物是底层指令的产物。机器学习的情况相反，我们需要采用由外而内的方式去研究。不仅是代码决定行为，行为也会影响代码。机器是世界的产物。

最终，我们将同时发挥手写代码和机器学习算法的力量。生物学家有可能已开始注意到这点。类似Crispr的基因改造技术使他们获得了类似传统程序员操控代码的能力。不过，表观遗传学的发现表明，基因材料并非一成不变的指令，而是会根据环境和主人的体验动态调整。我们的代码并非完全独立于现实世界，而是受到现实世界深深的影响。温特或许认为，细胞是由基因软件驱动的机器，但表观遗传学家史蒂夫·科尔(Steve Cole)有着不同观点：“细胞是将外部体验转变为生物学元素的机器。”

目前，在阿兰·图灵(Alan Turing)绘制了问题分析机设计的80年后，计算机已经可以将外部体验转变为技术元素。过去几十年中，我们致力于探索世界的密码，并尝试优化我们对世界的体验。然而，我们的机器不太可能长时间去按照这种方式运转，而世界从来也不是这样。我们与技术的关系将更复杂，而技术可能会给我们带来更多帮助。我们不再指挥机器，而是将培养机器。