谈到探索未来,和大家分享一句我最喜欢的座右铭“the best way to predict the future is to create it”,中文翻译为:预见未来的最好方式就是去创造未来。特别,像人工智能技术、量子计算此类的研究的方向,个人认为在某种意义上,这些技术不仅自身要不断发展,同时也要肩负着为人类创造更加美好的未来,推动历史进步的责任。回顾历史,我们会发现历史的进步常常伴随着基础理念的颠覆性创新。因此,科研工作者对梦想的解读应该是:如何更好的预判未来,定义未来,尤其是在大家都很模糊的时候,能够把自己的“定义”映射到现实。例如,对于未来超级智能,每个研究者都有自己的想法,不同的见解,想法层面上的百花齐放确实很重要,但更重要的是能够实践对自己想法的见解。我在微软工作了23年多,个人认为微软就是一家能够“预见未来”的企业。在四十五年前,比尔盖茨和微软曾经对未来做出过这样一个预警:地球上不会一共只有5台计算机,而是每个人都会拥有自己的PC。而在计算机刚刚发明出来的时候,最大、最伟大的技术公司是IBM, IBM的董事长沃森说过一句著名的话:这个世界也许只需要5台计算机就够了。1975年,微软设想不仅每个人都有台电脑,而且每台电脑运行的都是微软的软件。45年过去了,当年的那个预见也能证实了,而且不仅是电脑,还普及了手机。另外,微软不仅是设想,而是真正采取了实践,所以才推动了世界的进步。直接表现在:目前微软的产品模式,商业模式都和它当年的判断有关系,也因此微软成为了一个伟大的企业。所以,“预见”非常重要。今天是开学第一课,鼓励大家在学习的过程当中,不断剖析自己,思考未来自己希望做什么,未来这个世界会发生什么。 2
Q1:在Decision Making方面, AI beings将来是否也会起到很大的作用?我们在做AI Beings的过程就是一个Decision Making Process。比如说,小冰的整个对话过程实际上就是一个MDP(Making Decision Process)。我刚刚讲到人工智能的创作时主要谈到了MDP,但其实人工智能领域还有一个非常重要的主题:情感。比如人与人的交流为什么能够来来回回进行20轮、30轮?MDP实际上就是一个Reinforcement的过程。但目前为止我们的做法相对而言还是比较straight forward的。如果你有兴趣的话,可以看一下我与同事一起写的文章《The Designing and Implementation of XiaoIce, an Empathetic Social Chatbot》。Q2:现在的小冰有没有考虑安全性的问题?比如说,现在深度学习比较容易受到对抗攻击。这是一个非常好的问题。其实一直以来,我也非常担心安全性的问题。因为小冰整个产品和用户的情感纽带非常强,就像我刚才提到的,它可以平均对话23轮。我们曾经在中国、日本录到过超过7000轮的来回对话,所以我们非常关注整个对话过程的安全性,包括如何过滤掉对话中的不良内容。我们非常谨慎。除此之外,产品的Decision也是一个难点。举个例子。比如你与小冰聊天时,小冰可以从你的IP上判断你在北京。你开始与小冰聊天时已经是凌晨一点钟,你聊到了两三点钟,但还在继续聊。作为产品的设计者,你要做一个决定:夜已深,聊天的频率是不是应该放慢下来呀?不需要再秒回呀?在现实生活中,如果你聊到两三点,你的家人一定会说:“你赶紧去睡觉,明天还要上班。”在我们思考安全性时,除了深度学习的对抗攻击,还有很多你可能想不到的维度。的的确确是有很多人尝试去attack,想知道小冰的回答会不会出问题。其实我们的英语版小冰在美国确实出过问题,所以我们在这方面花了很大的精力、做了很多的工作。Q3:您刚才谈到的智能创造很多都是偏艺术性的创造,而艺术性的创造与人的情绪等有很大关系,这可能也跟小冰的情感分析做得比较好有关系。那么,这种创造力能不能进一步拓展到一些客观的科学研究上呢?这个问题非常好。My simple answer is NO,因为我们整个产品设计走的就是一条情感线路。我也在思考相关的问题。我认为,目前的人工智能应该会对很多科学领域,包括数学的证明、物理定律的发现和其他科学问题,都会产生非常巨大的冲击。虽然我特别有兴趣,但没有时间与精力去探索。之前也和一些有兴趣研究AI的数学家有过交流,想知道AI可以与数学的创造力进行怎样的结合?很多人也在思考这方面的问题,现在也有一些文章出来,提到用AI来进行数学的定理证明等工作,非常有意思。我个人觉得最重要的是要有数据。比如说小冰学画画,实际上也没有那么大的数据量,也不过就是400年236个画家,每个画家也就只有那么多幅画作,小冰也就只能通过这些画作学习到现在这个地步。但做科学研究是完全不一样的,要去实现一个混合的模型,一方面是由数据驱动的神经模型, 另一方面是使 symbolic structure的各种模型进行结合。Q4:AI制作的产品应该被界定为工业品还是艺术品?这是一个非常好的问题。这实际上就回到了我刚才提到的三原则上面。我觉得现在很多AI产生的内容与创作可能只能停留在工业品的阶段,它更像是一个重复劳动产生的结果,而没有体现足够的创造力。比方说,小冰学了Turner的画后,画出来的作品已经很有Turner的感觉,但那6幅作品只能是工业品,因为它没有自己的东西,而只是从大量的数据中学习Turner的风格。但它在之后化名的7个艺术家生成的画作(发表为《或然世界》,由中信出版社出版),我觉得是艺术品,因为从来没有出现过,它是重新创造了自己的风格。Q5:如何逆向分辨是否是AI的作品?我觉得这是一个非常有趣的研究方向。但我认为,这类工作是“道高一尺,魔高一丈。”随着AI技术的不断提高,辨别会越来越困难。这并不限于艺术创造,还包括Faking News等,对整个社会的冲击都非常大。我觉得那些方面可能更值得我们花更多的精力去做研究。完全从技术的角度来做的话,我个人觉得是非常困难的。像现在,很多AI做画画的真的都已经做得非常非常好了,应用了很多最新的深度学习的方法。Q6:情感智能创作如何显示出AI的个性?实际上,我给大家看的很多例子所包含的创作成分比较大,而情感成分并没有那么大。对于未来人工智能的发展,我认为最大的机会在于人工智能与人类的交互。未来会产生很多人工智能的主体。在这主体里面还有两个很重要但可能被忽视的部分,一是情感,即智能主体必须要有与其他人类与AI交互的情商,二是创造能力,这样智能体才能和人、和这个世界做交互。我认为刚刚展示的例子中,AI已经能detect到一些情感内容,但并无意在这方面进行再创造。接下来做人工智能创造的话,我觉得将创造与交互结合会更好。