在不同的图中"重用"单个张量流模型？

Question

目前，我正在使用Tf-Slim库中的预训练VGG模型。我的动机是为这个网络生成给定图像的对抗性示例。任务摘要为：

x= tf.placeholder(shape=(None, 32, 32,3), dtype=tf.float32)
for i in range(2):
logits= vgg.vgg_16(x, is_training=False, spatial_squeeze=False, fc_conv_padding='SAME')
x =  x + learning_rate*cal_gradient_of_logits_wrt_x(logits)

但是，一旦我们进入第二次迭代并开始运行 logits= vgg.vgg16(....) 我们就会收到以下错误：

Variable vgg_16/conv1/conv1_1/weights already exists, disallowed. Did you mean to set reuse=True or reuse=tf.AUTO_REUSE in VarScope?

很明显，此错误是由于第二次迭代中图形的复制而发生的。由于 tf-slim 模型在示波器中不使用reuse=True，因此会引发此错误(因为在第二次迭代中，我们再次要求它在图形中添加已经存在的 vgg 层)。

是否有可能以某种方式避免此错误？应该可以为 VGG 模型创建一次图，并在我们需要计算 logits 时使用它。

这应该是可能的原因是来自 keras 的示例。在 keras 中，我们可以简单地定义一次模型，

model= vgg.VGG16(*args, *kwargs)

稍后，我们可以添加不同张量的计算对数，

logits_1= model(x1)
logits_2= model(x2)

现在，在这两个计算中，将使用相同的模型参数，即不会出现此类错误。有没有办法通过张量流模型实现相同的功能。

Answer 1

In tfslim/models/research/slim/nets/vgg.py：

在 VGG16 或 VGG19 定义中添加重用参数

def vgg_16(inputs,
num_classes=1000,
is_training=True,
dropout_keep_prob=0.5,
spatial_squeeze=True,
scope='vgg_16',
fc_conv_padding='VALID',
global_pool=False,
reuse=None):

。 然后根据需要将变量范围设置为重用arg_scope

with tf.variable_scope(scope, 'vgg_16', [inputs], reuse=reuse) as sc:

。

然后，当您调用该函数时，将参数作为 reuse=tf 传递。AUTO_REUSE

vgg.vgg_16(images, num_classes=dataset.num_classes,
is_training=True, reuse=tf.AUTO_REUSE)

Answer 2

您可以使用 tf.make_template(func) 来执行此操作。

x= tf.placeholder(shape=(None, 32, 32,3), dtype=tf.float32)
vgg_model = tf.make_template(vgg.vgg_16, is_training=False, spatial_squeeze=False, fc_conv_padding='SAME')
for i in range(2):
logits = vgg_model(x)
x += learning_rate*cal_gradient_of_logits_wrt_x(logits)