为什么现在深度学习才流行起来？

Posted caimouse

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了为什么现在深度学习才流行起来？相关的知识，希望对你有一定的参考价值。

曾经在半个世纪之前，作为深度学习的思想和模型就开始研究和探索了，但是为什么现在深度学习才流行起来呢？


其实原因有三个：计算机技术高速发展、互联网产生大数据和神经网络训练方法改进。


在半个世纪之前，可以想象计算机是多么的落后，一台普通的PC就几十平方的房子那么大，计算能力还不及目前一台普通的智能手机，可想而知，在那样的计算能力之下来研究深度学习，简直就是恶梦。因为内存只有几K，而目前随便使用手机来拍摄一张图片，就有几M大小了，这么大的图片在当时的计算机是不能处理的，所以很难让人来研究更高级的应用，所以当时只能来做一些玩具的神经模型，比如布尔运算中的与、非、或，并且还不能计算异或这个操作。因此，在当时只是理论上设计和分析居多，实际练习和试验就少得多了。随着计算机技术高速发展之下，目前一台手机就有4G的内存，储存空间就有128G的大小，而像百度的数据中心，就更加强劲了。


当然有了计算能力超强之后，还不能引爆深度学习，像上个世纪末已经有很多超级计算机中心出现了，这时这些计算机中心主要用来模拟运行核弹，或者天气预报这些。并没有对深度学习生产深入的影响，而在互联网从1997年左右开始兴起之后，互联网就产生了大量的数据，并且这些数据很容易用来标记和共享。比如大量的个人网页的出现，大量网站的出现，然后产生了收集所有数据的想法，就导致网络爬虫的出现。有了爬虫之后，就可以大规则地收集互联网上的数据，再进行分类和标记，当数据积累到一定程度之后，大概在2006年左右就开始兴起深度学习的研究了。


因此有了计算能力强劲的支持，并且有互联网10多年数据的积累，这时再来研究深度学习就比较容易，可以不断地进行试验，试验结果再来修正理论，理论再指导实验，终于进入一个良性循环，从而引爆了深度学习强大的威力。在这时，就可以改善神经网络的训练方法，到2006年时，只需要5000个标记的样本就可以达到很高的性能，如果有1000万个样本，就可以达到，甚至超越人类的能力。像我在训练《Flappy Bird》游戏时，在100万次就可以接受了，如果训练达到300万次，就已经超越人类了。


因而到目前这个时代，深度学习是通过一种极其简单，或者叫做最笨的方法来让计算机学习世界的知识，而不是人类学会了再教给计算机，从而减轻人类学习的能力。可见，自动驾驶汽车出来时，任何人都可以“开”汽车了，从而减轻人的学习能力，将来更多学习的能力交给机器，人们无须再学习，进入一个“不用学习”的时代。比如你写作文是否好，就要看你是否买了一台训练写作文最好的机器。


1. TensorFlow API攻略