我想用tf.estimator.Estimator
来管理我的训练,但在与tf.data
API一起使用时遇到了一些麻烦。
我有这样的东西:
def model_fn(features, labels, params, mode):
# Defines model's ops.
# Initializes with tf.train.Scaffold.
# Returns an tf.estimator.EstimatorSpec.
def input_fn():
dataset = tf.data.TextLineDataset("test.txt")
# map, shuffle, padded_batch, etc.
iterator = dataset.make_initializable_iterator()
return iterator.get_next()
estimator = tf.estimator.Estimator(model_fn)
estimator.train(input_fn)
由于我不能为我的用例使用make_one_shot_iterator
,我的问题是input_fn
包含一个应该在model_fn
内初始化的迭代器(在这里,我使用tf.train.Scaffold
来初始化本地操作(。
另外,我知道我们不能只使用input_fn = iterator.get_next
否则其他操作将不会添加到同一图形中。
初始化迭代器的推荐方法是什么?
从 TensorFlow 1.5 开始,可以使input_fn
返回一个tf.data.Dataset
,例如:
def input_fn():
dataset = tf.data.TextLineDataset("test.txt")
# map, shuffle, padded_batch, etc.
return dataset
参见 c294fcfd。
对于以前的版本,可以在tf.GraphKeys.TABLE_INITIALIZERS
集合中添加迭代器的初始值设定项,并依赖默认初始值设定项。
tf.add_to_collection(tf.GraphKeys.TABLE_INITIALIZERS, iterator.initializer)