使用 tf.data.Datasets 冻结 Tensorflow 图时确定输入节点

Posted 2023-02-19

【中文标题】使用 tf.data.Datasets 冻结 Tensorflow 图时确定输入节点

【英文标题】：Determining input nodes when freezing Tensorflow graphs using tf.data.Datasets

【发布时间】：2018-11-29 23:52:36

【问题描述】：

我使用 Tensorflow tf.data.Dataset API 作为我的输入管道，如下所示：

train_dataset = tf.data.Dataset.from_tensor_slices((trn_X,trn_y))
train_dataset = 
train_dataset.map(_trn_parse_function,num_parallel_calls=12)
train_dataset = 
train_dataset.shuffle(buffer_size=1000).repeat(args.num_epochs)# 
.batch(args.batch_size)
train_dataset = train_dataset.apply(tf.contrib.data.batch_and_drop_remainder(args.batch_size))
train_dataset = train_dataset.prefetch(buffer_size=600)



val_dataset = tf.data.Dataset.from_tensor_slices((val_X,val_y))
val_dataset = val_dataset.map(_val_parse_function,num_parallel_calls=4)
val_dataset = val_dataset.repeat(1)
val_dataset = val_dataset.apply(tf.contrib.data.batch_and_drop_remainder(args.batch_size))
val_dataset = val_dataset.prefetch(buffer_size=200)


handle = tf.placeholder(tf.string, shape=[])
iterator = tf.data.Iterator.from_string_handle(
        handle, train_dataset.output_types, 
train_dataset.output_shapes)

images,labels = iterator.get_next()


train_iter = train_dataset.make_initializable_iterator()
val_iter = val_dataset.make_initializable_iterator()

然后使用此代码在训练和验证数据集之间切换：

# Define training and validation handlers
training_handle = sess.run(train_iter.string_handle())
validation_handle = sess.run(val_iter.string_handle())
sess.run(train_iter.initializer)
sess.run(val_iter.initializer)

...
loss = sess.run([train_op],feed_dict=handle:training_handle, 
is_training:True)

训练后，我保存权重，然后将图形从保存的检查点（（.meta）冻结为.pb格式。随后，运行tensorflow repo中提供的optimize_for_inference.py工具。此脚本需要@ 987654326@ 待定义。我无法确定哪个是图表的正确输入节点。以下是我的图表的节点：

['Variable/initial_value',
'Variable',
'Variable/Assign',
'Variable/read',
'increment_global_step/value',
'increment_global_step',
'Placeholder',
'is_training',
'tensors/component_0',
'tensors/component_1',
'num_parallel_calls',
'batch_size',
'count',
'buffer_size',
'OneShotIterator',
'IteratorToStringHandle',
'IteratorGetNext',
....
....
'output/Softmax]

可以很容易地确定输出节点，但不能确定输入节点。

【问题讨论】：

不，我试过这个。它返回此错误：ValueError: Input 0 of node import/IteratorFromStringHandle was passed float from import/Placeholder_1:0 incompatible with expected string.

【参考方案1】：

handle = tf.placeholder(tf.string, shape=[]) 是您的输入，因此张量很可能是“Placeholder:0”。

不过写起来更有意义：

handle = tf.placeholder(tf.string, shape=[], name="input_placeholder")

那你肯定知道。