Theano入门笔记2:scan函数等

Posted Shuzi_rank

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Theano入门笔记2:scan函数等相关的知识,希望对你有一定的参考价值。

1.Theano中的scan函数

目前先弱弱的认为:相当于symbolic的for循环吧,或者说计算图上的for循环,也可以用来替代repeat-until。

与scan相比,scan_checkpoint减少了内存的使用,只保存最后一步的计算结果。

2.Theano中的shared变量

Variable with Storage that is shared between functions that it appears in.多个函数之间共享存储空间的变量--Theano的共享变量。

Shared variables是可以加快计算速度的全局变量(http://blog.csdn.net/yjiejie7758/article/details/51898686)

shared variable是一种符号变量(symbolic variable),但是这个symbolic variable又拥有自己的值。

shared可以存储在显存中,因为这个特性,我们才会有“把神经网络参数放到shared中”的这种做法。
shared指向显存中的一块区域,这块区域在运算中是共享的,所以常常在运算中用来存储权值参数

定义shared variables: a=theano.shared(2,‘a‘), a是符号变量,初值为2,只能调用,但不能直接访问。

之所以称之为shared variable,是因为在不同函数中赋值都是一样的

 

以上是关于Theano入门笔记2:scan函数等的主要内容,如果未能解决你的问题,请参考以下文章

神经网络入门1

神经网络入门1

神经网络入门1

habse入门级别的笔记(摘抄)

‹拆书分享篇›深度学习框架PyTorch入门与实践

《C++ 101条建议》学习笔记——第一章快速入门