深度学习寒冬论作者再发雄文:AI和区块链一样,都是死路一条
Posted 新智元
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了深度学习寒冬论作者再发雄文:AI和区块链一样,都是死路一条相关的知识,希望对你有一定的参考价值。
新智元报道
新智元报道
编辑:小芹、张乾
【新智元导读】AI领域专家Filip Piekniewski时隔一年再发雄文,坚持认为AI寒冬将至,在硅谷40多年的计算机革命浪潮中,AI和区块链一样,都是死路一条。
AI寒冬论再起。
去年5月,计算机视觉和AI领域专家Filip Piekniewski一篇雄文AI Winter is Well on its Way(见),第一次引发了学术、产业对这波“AI寒冬”的讨论。
点击图片阅读文章
时隔近一年之后,Filip Piekniewski昨天再次撰文,坚称AI寒冬将至,并且认为区块链、AI都是这场计算机革命的两朵昙花,最终这两个赌注都是死路一条,只有极少数人会赢。
Filip Piekniewski的这篇文章结构如下:
硅谷前20年:从CPU、GPU到第一次互联网泡沫;
智能手机拯救硅谷;
硅谷的新救星:区块链和AI;
AI盛宴尾声:跳不出陷阱仍然是白日梦。
以下是新智元对这篇文章的编译。
神奇之谷:被摩尔定律照耀的地方
从前,在 20 世纪 80 年代,有一个神奇的地方叫硅谷。许多奇妙的事情即将在那里发生,许多人将在那里赚到盆满钵满。这一切都与计算机的奇迹有关,它将彻底改变几乎所有事情。
计算机有大量的应用摆在它们面前:彻底变革办公室工作,通过电脑游戏娱乐,改变我们沟通、购物和使用银行系统的方式。但在当时,它们笨拙、缓慢、而且昂贵。尽管有这样的希望,但除非计算机以某种方式能够指数级地变得更快、更便宜,否则许多这些事情都无法实现。
但是摩尔定律出现了——集成电路中的晶体管数量每隔 18 个月就会翻一番。如果这条定律成立,未来将会很美好。市场正在等待的应用将成为现实,钱也是可以赚到的。
到 20 世纪 90 年代中期,很明显摩尔定律起作用了。
计算机变得越来越快,软件变得越来越复杂,以至于每年都要进行升级才能跟上进度。每一代新一代 CPU 的速度都明显比前代产品要快,每一代软件产品的运行速度都明显比它们的前代产品要慢,性能也更强。
总的来说,通过定期升级到新硬件,软件的运行速度似乎和以前一样快 (或更快),但提供了越来越多的功能。大部分的增益是由于时钟速度的提高 (1990 年初计算机的时钟速度是 33Mhz,到 2000 年,超过 1Ghz 的时钟速度已经可用),因此,无需重写任何东西来利用增加的计算能力,只要是在一台新计算机上,所有东西都会运行得更快。一切看起来都很好。
到 20 世纪 90 年代末,一种新的处理器问世了:GPU。这些处理器与常规CPU略有不同。GPU 芯片具有许多小内核并行工作,经过优化以执行 3D 图形渲染。最初它们作为额外的加速器出售 (3dfx voodoo),但很快就与普通显卡集成 (Nvidia - Riva TNT)。有了 GPU,游戏画面开始变得更好了,运行得也快多了。这再一次让硅谷的大亨们赚到大钱。
90 年代末 (左图) 和 20 年后 (右图) 计算机内部的视图,大小和组件相似,但可能要强大几千倍。
但到了 2000 年初,情况开始变得有些不同。互联网泡沫刚刚破裂,很多人损失了很多财富。此外,提高时钟速度的旧策略遇到了一些障碍:为了提高切换速度,必须保持电路的工作电压相对较高,这反过来会导致芯片升温。随后的速度增益就开始受到散热能力的限制。
为了让这场盛宴继续下去,CPU 制造商开始增加芯片中执行核心的数量。但是必须重写大部分软件才能利用这种并行性。接下来每一代新一代 CPU 的诞生,事情的发展也就不再那么神奇了。
但更糟糕的是,大多数情况下,事情不必需要变得更快。
大部分软件堆栈已经成熟,应用程序已经固化,人们不再需要每年换一个新的 CPU 或 2 倍的内存,事情已经饱和。
如今,大部分办公室工作都可以在 35 美元的树莓派上完成。就连游戏领域也基本上被游戏机饱和了。这些游戏机的售价低于成本价,初始投资可以从游戏隐藏的费用中收回。游戏机为绝大多数人提供了方便、易用的界面和令人满意的游戏体验。这对硅谷来说是个问题,事情开始放缓。
智能手机拯救硅谷
到了 2000 年中期,另一项便利的发明拯救了硅谷 —— 智能手机。
尽管 PC 市场开始明显放缓,但智能手机市场却在迅速发展,并在 2007 年至今推出的各种型号的手机中达到顶峰。对于智能手机,更新迭代并不是太关注 CPU 的速度,而是电量的使用 (电池寿命) 和传感器 / 屏幕的质量。
在过去 10 年里,相机和屏幕确实取得了巨大的进步,但除了一个关键参与者 —— 苹果 (Apple) 以外,硅谷大亨们并没有获得多少新的收入。相反,硅谷专注于软件方面的服务公司,比如优步 (Uber)、Netflix 以及其他 app,得以利用这个新平台。
但从一开始就很明显,智能手机革命的火焰不会永远燃烧。事实上,到 2018 年,许多人意识到他们不需要每两年就花 1000 美元买一部新的智能手机,而且就像之前的 PC一样,旧型号的智能手机对大多数应用程序来说都还很好用。这导致苹果股票在 2018年秋季遭受重创,使该公司的估值回到远低于万亿美元的水平。
随着各种市场的枯竭,硅谷需要一些新的东西。需要一些和 90 年代的 PC 革命一样重要的新机会。它将使全新的应用成为可能,将允许入侵并破坏新的行业。它将重新点燃对更多芯片的需求 —— 创造对更高计算能力的需求。到 2012 年,两个潜在的机会出现了:区块链和人工智能。
AI盛宴开始了
区块链 (2010 年最初以比特币的形式出现),这个想法是通过删除账本 (银行) 来完全取代金融系统,并提供一种建立远程交易的自我认证手段。
此外,构建区块链的方法还需要大量的计算能力,以计算所谓的工作量证明 (proof of work)。这就是硅谷所希望的:一个新的、利润丰厚的应用空间,此外还需要大量新的芯片来满足计算需求。
人工智能在硅谷爆发大约是在 2012 年,当时一位名叫 Geoff Hinton 的加拿大人和他的学生在 ImageNet 图像分类竞赛中使用深度神经网络获胜,该网络在一块 GPU 上实现,而 Geoff Hinton 此前的 30 年都在研究联结主义模型和神经网络这一神秘空间。
跟区块链一样,AI 技术可以开启一系列新的应用,并需要大量新的芯片。硅谷的许多人很快就看到了这种潜力,资金开始源源不断地涌入。
自上世纪 90 年代深度学习的最后一个冬天以来,神经网络学者们就一直蛰伏在各个大学,他们很快就注意到了这个机会。仿佛突然之间,他们被邀请加入了硅谷的盛宴。
神经网络不断地给出新的令人兴奋的结果:对象识别和分割、语音识别、机器翻译都不断变得越来越好。这些新功能很快被谷歌、Facebook 等拥有大量数据的公司所吸收。但这种兴奋很快就过头了。
科学家们都是训练有素的专业人士,擅长在研究经费申请中过分承诺,而现在他们有了更好的客户:风险投资家。这些人喜欢听关于美好未来的故事,在这些故事中 AI 将彻底改变一切。
风险投资家们对废话的鉴别比政府资助机构要低得多,只要在 NIPS 会议上发表一篇论文,就足以让他们放弃任何尽职调查的必要性。
而且,在 AI 空间中,只要添加一些想象力就可以轻松将这些童话故事提升到一个新的水平,与一些著名的科幻电影进行比较,使故事看起来我们面前已经有一个惊人的拐点,这是 AI 最终会达到的一个点,在这个点上,AI 的提升将超出我们的想象 —— 奇点 (the singularity)。
这导致了一种错失恐惧症 (ultimate fear of missing out, FOMO)。过去,即使是政府资助机构也会成为 AI 承诺的受害者,每次都会导致资金冻结,即所谓的 AI冬天。
但硅谷买下了这个故事,创造了有史以来最大的 AI 盛宴。他们毫不犹豫地买下了它。
研发中心、非营利性实验室和初创企业开始迅速壮大,哪怕大学刚毕业的深度学习科学家们往往没有任何行业经验。初创企业蓬勃发展,它们承诺在机器人、自动驾驶汽车、无人驾驶飞机等领域创造各种奇迹。
所有这些问题的解决方案都是深度学习 —— 简单地说,就是在更多的数据和更大的 GPU 上训练更深的网络。它本应该神奇地起作用,只是需要更多的数据和更多的计算。
于是,盛宴就这么开始了。
深度学习:玩游戏最具革命性,难走进现实
到 2018 年,一些人开始意识到事情可能不会这样发展下去。目标识别或分割领域的大多数 “真实世界” 基准开始显示出明显的收益递减迹象。即使有大量数据和极其强大的机器的训练,这些模型在性能上只取得了有限的提升,在某些情况下甚至根本没有性能提升。
科学家们做得最好的事情是:他们不是生产产品,而是生产了大量论文,其中一些论文研究了新技术令人惊讶的局限性。
在深度学习应该带来革命的所有方向中,只有一个方向持续带来良好结果——玩游戏。这是因为游戏可以在计算机上实现,并且可以生成比在任何现实世界应用程序中实际获得和标记的数据多几个数量级的数据。
在许多情况下,仅仅是训练AI玩这些游戏就需要花费数十万美元(仅仅是电力和计算硬件成本)。但是,同样的技巧在实际问题中并不适用,因为标记数据非常昂贵,而且通常甚至不能完全代表手头问题的极端情况。
在所有这些AI狂热中,汉斯·莫拉维克(Hans Moravec)的一个古老而被遗忘的观察,也就是所谓的莫拉维克悖论(Moravec's paradox),变得比以往任何时候都更加清晰和明显。
虽然深度学习在计算机感知的广泛领域实现了许多新事物,但它甚至没有触及AI的一般问题。甚至在计算机感知的更实际的应用中,在没有大量标记数据的情况下,基于经典算法和手工特征的精心设计和优化的解决方案也更容易在现场应用中开发和执行。
梦碎的现实:自动驾驶车祸和区块链崩盘
AI技术进步的试金石是自动驾驶汽车的开发。
到2016年,硅谷的许多人都相信自动驾驶技术已经准备就绪,并将成为深度学习的关键支柱之一——毕竟,汽车已经可以在不受干预的情况下行驶数英里。
这种信念是如此强烈,以至于特斯拉甚至开始将全自动驾驶功能作为无线升级来出售(升级尚未发布)。到2019年初,特斯拉改变了“完全自动驾驶”的说法,与此同时,为特斯拉的全自动驾驶功能支付了数千美元的车主提起了集体诉讼。2018年对许多自动驾驶公司来说也是艰难的一年,Uber自动驾驶在亚利桑那州发生了致命的撞车事故,特斯拉的自动驾驶仪相关的事故也造成了数人死亡。
此时,即使是硅谷人也开始慢慢地认识到:一辆完全自主驾驶的汽车,像出租车一样载着大家到处走,仍然是一个非常遥远的未来。显然,汽车将继续内置计算机,从这个意义上说,硅谷赢了,但这与早期的梦想相去甚远。
2018年,比特币价格从近2万美元暴跌至4000美元以下,跌幅超过80%。
2018年,硅谷的另一个大赌注面临严重打击——比特币。比特币是区块链的最重要产品,它贬值了超过80%。许多人损失了很多钱,人们对加密货币的热情一落千丈。
深度学习和区块链都是非常有趣的技术,它们确实使以前不可能的事情成为了可能:谷歌图像搜索比以前好多了;图像风格迁移是一个非常酷的工具;机器翻译现在已经足够让你在异国他乡不至于迷路,但离翻译诗歌还很远。但这些改进似乎都不足以赢大钱,以证明硅谷的大赌注。
这些看起来都没有90年代疯狂的PC热潮那么大,那么有利可图。
至于AI,它的炒作周期与之前的并没有太大差别。我们让计算机做了一些似乎只有受过教育的成年人才可以做的事情,但后来意识到,这些计算机尚无法处理婴儿或动物理所当然就能做的事情。只要我们继续摔到同样的陷阱,AI(通用人工智能)将仍然是一个白日梦。
英伟达是硅谷为区块链和AI淘金热销售铲子的公司之一。过去4年里英伟达的股票走势既反映了市场的高期望,也反映了市场正在经历的幻灭。
很难预测未来,但至少目前看来,这两个赌注都是死路一条。或许就像谷歌和Facebook等互联网公司崩溃后出现的情况一样,当前炒作周期的终结将在区块链或所谓的AI空间中产生累积大奖。但就像那时一样,只有极少数人会赢,而很多人会输得很惨。
https://blog.piekniewski.info/2019/03/12/a-short-story-of-silicon-valleys-affair-with-ai/
新智元春季招聘开启,一起弄潮AI之巅!
岗位详情请戳:
【2019新智元 AI 技术峰会倒计时13天】
2019年的3月27日,新智元再汇AI之力,在北京泰富酒店举办AI开年盛典——2019新智元AI技术峰会。峰会以“智能云•芯世界“为主题,聚焦智能云和AI芯片的发展,重塑未来AI世界格局。
同时,新智元将在峰会现场权威发布若干AI白皮书,聚焦产业链的创新活跃,评述华人AI学者的影响力,助力中国在世界级的AI竞争中实现超越。
购票二维码
活动行购票链接:http://hdxu.cn/9Lb5U
点击文末“阅读原文”,马上参会!
以上是关于深度学习寒冬论作者再发雄文:AI和区块链一样,都是死路一条的主要内容,如果未能解决你的问题,请参考以下文章