深度学习的代码框架

Posted bregman

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了深度学习的代码框架相关的知识,希望对你有一定的参考价值。

1. Tensorflow 图的模式

定义各模块,前三个步相当于搭建了模型的静态图。

  1. 数据输入函数
  2. 优化问题的loss函数, 效果度量函数。注: loss 函数相当于定义深层网络。
  3. 参数优化算子
  4. 通过循环的调用section.run 刷新优化参数,loss函数值,效果度量值(准确率,KS等)

2. torch模式 & TF的Eager模式

没有了section,每次计算梯度得到具体的值,并更新, 执行方式与一般算法描述一致, 使用成本低,更适合入门。

torch 和 Eager 模式的差别:

  1. Eager 模式需要考虑导数计算, 并且可以自定义导数
  2. torch 代码中, 通常调用backward函数,不出现梯度计算,代码上更简洁。

以上是关于深度学习的代码框架的主要内容,如果未能解决你的问题,请参考以下文章

阿里公开深度学习框架 代码链接于12月发布

学习《TensorFlow实战Google深度学习框架 (第2版) 》中文PDF和代码

简易的深度学习框架Keras代码解析与应用

PyTorch 深度学习框架:优雅而简洁的代码实现

技术流|主流深度学习框架比较

《Tensorflow实战Google深度学习框架》PDF一套四本+源代码_高清_完整