模型参数的初始化

Posted tangjunjun

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了模型参数的初始化相关的知识,希望对你有一定的参考价值。

1.  tf.global_variables_initializer() 可以初始化所有变量。

import tensorflow as tf
a=tf.Variable(tf.ones((2,3)),name=‘a‘)
b=tf.Variable(tf.random_normal(shape=(2,3),stddev=0.35),name=‘b‘)
sess=tf.Session()
sess.run(tf.global_variables_initializer())
print(sess.run(a))
print(sess.run(b))

技术图片

 

 

2.  tf.variables_initializer([var_list]) 仅初始化列表var_list种的值。

import tensorflow as tf
a=tf.Variable(tf.ones((2,3)),name=‘a‘)
b=tf.Variable(tf.random_normal(shape=(2,3),stddev=0.35),name=‘b‘)
sess=tf.Session()
# sess.run(tf.variables_initializer([a])) # 只初始化变量a,而变量b未作初始化,因此执行会报错。
sess.run(tf.variables_initializer([a,b])) # 对变量a与b做了初始化,执行将不会报错
print(sess.run(a))
print(sess.run(b))

报错结果:

技术图片

 

 正确结果:

技术图片

 

 

3.  变量重复赋值并未报错,其结果如下:

此点证实模型参数可以用assign分配,可用checkpoint模型文件保存值赋值到变量种。

技术图片

 

以上是关于模型参数的初始化的主要内容,如果未能解决你的问题,请参考以下文章

AJAX相关JS代码片段和部分浏览器模型

深度学习之构造模型,访问模型参数——2020.3.11

如何使用 Swift 使用此代码片段为 iOS 应用程序初始化 SDK?

PyTorch 迁移学习 (Transfer Learning) 代码详解

PyTorch 迁移学习 (Transfer Learning) 代码详解

深度学习计算模型参数的访问初始化和共享