Do Keras dropout和GaussianNoise层在每个批处理中应用不同的噪声实例

Question

我正在Keras中构建一个去噪自动编码器。我使用的模型是

input_img = Input(shape=(10,))
encoded = GaussianNoise(0.01)(input_img)
encoded = Dropout(0.1)(encoded)
encoded = Dense(20,activation='relu')(encoded)
decoded = Dense(10, activation='sigmoid')(encoded)
ae = Model(input=input_img, output=decoded)

如果我随后调用

ae.fit(x_train, x_train,
                     nb_epoch=3,
                     batch_size=5,
                     shuffle=True,
                     validation_data=(x_test, x_test))

是否每批都有一个新的噪声实例?换句话说，对于上面的每个epoch，每个批次是否都有不同的噪声实例?或者噪声实例对于所有批次都固定为相同的东西，并且只在epoch改变时才改变?或者更糟的是，整个过程中只选择了一个噪声实例?

Answer 1

在训练过程中为每个批次创建一个不同的噪声实例。