Nadam优化器不支持将tf.keras.optimizers.LearningRateSchedules作为学习速率



这是我在这里的第一个问题。我正在玩tensorflow.keras,做一些CNN,我想知道是否有人理解为什么会发生这种冲突,谢谢。

from tensorflow.keras.optimizers import Nadam
from tensorflow.keras.optimizers.schedules import ExponentialDecay 
initial_learning_rate = 0.1
lr_schedule = ExponentialDecay(
initial_learning_rate,
decay_steps=100000, decay_rate=0.96, staircase=True)

model.compile(optimizer=Nadam(learning_rate=lr_schedule), loss='categorical_crossentropy', metrics=['accuracy'])

ValueError: The Nadam optimizer does not support tf.keras.optimizers.LearningRateSchedules as the learning rate是因为Nadam optimizer不像其他optimizer那样支持LearningRateSchedule。

您可以使用除支持时间表的Nadam之外的其他优化器。

  • 阿达德尔塔
  • 阿达格勒
  • 亚当
  • 阿达姆克斯
  • Ftrl
  • RMSprop
  • SGD

相关内容

  • 没有找到相关文章

最新更新