Tensorflow CNN模型得到误差" NaN loss during training."



我是Tensorflow的新手。当我用CNN训练数据时,有时第一批会发生"训练期间的NaN损失"。

> loss function is L1-norm
> 
> GradientDescentOptimizer is used.

"bach_size","learning_rate"是调整的,即使使用learning_rate = 0。

我真正困惑的是,当所有参数都固定下来时,结果有时可以正常运行,有时在第一批时出现错误"Nan"。我想知道它是怎么发生的?哪些因素导致结果?

  • 检查数据中的 NAN
  • RELU 激活有时会提供 NAN

最新更新