我想使用tensorflow将序列数据训练到具有一些零填充的Rnn基础模型。
我希望模型在训练时忽略0值。
我必须设置参数才能做到这一点吗?或者模型会自动忽略零吗?
谢谢,
这不是自动的,你应该引入Masking
来实现这一点。这意味着层如何能够知道何时忽略序列输入中的某些时间步长。
你可以通过三种方式介绍
- 您可以添加
tf.keras.layers.Masking
层 - 可以使用
mask_zero=True
配置tf.keras.layers.Embedding
层 - 在调用支持
mask
参数的层时,可以手动传递该参数
有关更多信息,您可以参考Keras的掩蔽和填充指南。