详解神经网络 | 深度学习框架是如何搭建的

Posted 机器学习炼丹术

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了详解神经网络 | 深度学习框架是如何搭建的相关的知识,希望对你有一定的参考价值。


新一代人工智能技术的发展,离不开芯片与深度学习框架两大基础,随着中国科研创新能力的提升,技术领域取得大量突破。


当然,这也是一种技术封锁的倒逼,今年出现的华为芯片供应链被全面封锁,和工科神器MATLAB被禁事件,这两件事情加起来,迫使我国要从基础架构平台到应用系统等,全方位建设自主知识的优秀产品。


01

发 展


而深度学习作为人工智能的核心技术,近年来无论是学术、还是工业领域,均发挥着愈加重要的作用。


过去十年,深度学习领域涌现了大量算法和应用。在这些深度学习算法和应用涌现的背后,是各种各样的深度学习工具和框架。它们是机器学习革命的脚手架:TensorFlow 和 PyTorch 等深度学习框架的广泛使用,使得许多 ML 从业者能够使用适合的领域特定的编程语言和丰富的构建模块更容易地组装模型。

回顾深度学习框架的演变,我们可以清楚地看到深度学习框架和深度学习算法之间的紧密耦合关系。这种相互依赖的良性循环推动了深度学习框架和工具的快速发展。


02

趋 势


我们正在处于一场人工智能革命的黎明,人工智能领域的新研究和应用框架,正在以前所未有的速度涌现。


八年前的AlexNet 网络仅仅包含6000 万个参数,最新的 GPT-3 网络包含 1750 亿参数,网络规模在 8 年内增加了 3000 倍。但是人类的大脑包含100万亿个突触,也就相当于参数。所以,神经网络要达到人类的智能水平还有很大的差距。

详解神经网络 | 深度学习框架是如何搭建的

这种难以接受的网络规模,对现有的模型训练和推理的硬件、软件计算效率都提出了很大的挑战。未来的深度学习框架很可能是算法、高性能计算、硬件加速器和分布式系统的跨学科成果。


03

挑 战


然而,对于深度学习相关的初学者,还是对于已经从事相关工作的算法工程师来说,深度学习理论太难学,开发过程太复杂,又将许多人拒之于深度学习的门外。

详解神经网络 | 深度学习框架是如何搭建的

而大厂等一线企业在这方面的需求也是迫在眉睫,阿里云也正式开深,是业界首个面向NLP场景的深度迁移学习框架。人才渴求之大,人才缺口异常严峻。


04

机 遇


那么,作为我们学习深度学习的时候,究竟是学哪个框架呢?是学PyTorch、还是学Tensorflow、再或者是学Keras呢?其实,对于这样的问题,基于现在的形势下,你就不要把着眼点放在这些工具的使用上了,重要的是要知道它的原理。

为了让更多的人从根本性的掌握AI知识,特为你推出《用纯Python从零创造自己的深度学习框架》,我们将用三天的时间让大家深入的了解与学习深度学习框架。


3天时间,庖丁解牛深度学习框架

详解神经网络 | 深度学习框架是如何搭建的

你只要会一些简单的Python编程方法就可以学习。我们要让你学会的是自己创造一个属于你自己的深度学习框架,不在受制于人。最终可以让你实现手写数字识别,仅需要经过简单的改造,就可以实现目标检测、语言翻译等复杂的功能需求。


扫描下方二维码即可报名

以上是关于详解神经网络 | 深度学习框架是如何搭建的的主要内容,如果未能解决你的问题,请参考以下文章

深度学习搭建网络模型框架

深度学习环境搭建anaconda+pycharm+pytorch

深度学习Keras框架笔记之激活函数详解

深度学习基础(CNN详解以及训练过程1)

深度学习7日入门-百度PaddlePaddle框架学习小结

如何自己实现简单的Google深度学习框架TensorFlow?