在tensorflow中,我是否必须设置一些特殊的东西来忽略训练时的零填充值?还是自动的



我想使用tensorflow将序列数据训练到具有一些零填充的Rnn基础模型。

我希望模型在训练时忽略0值。

我必须设置参数才能做到这一点吗?或者模型会自动忽略零吗?

谢谢,

这不是自动的,你应该引入Masking来实现这一点。这意味着层如何能够知道何时忽略序列输入中的某些时间步长。

你可以通过三种方式介绍

  • 您可以添加tf.keras.layers.Masking
  • 可以使用mask_zero=True配置tf.keras.layers.Embedding
  • 在调用支持mask参数的层时,可以手动传递该参数

有关更多信息,您可以参考Keras的掩蔽和填充指南。

最新更新