Keras RNN 中的单位参数



我正在努力理解以下 Keras 代码段实现的架构:

HIDDEN_DIM=256
VOCAB_SIZE=80
model = Sequential()
model.add(LSTM(units=HIDDEN_DIM, input_shape=(None, VOCAB_SIZE), return_sequences=True))
for i in range(LAYER_NUM - 1):
    model.add(LSTM(units=HIDDEN_DIM, return_sequences=True))
model.add(TimeDistributed(Dense(VOCAB_SIZE)))
model.add(Activation('softmax'))
model.compile(loss="categorical_crossentropy", optimizer="rmsprop")

具体来说,我不太了解"单位"参数。 单位参数是定义时间步长的数量,还是定义每个时间步的 LSTM 数量(即"通道"的数量(?

单位参数定义 LSTM 中隐藏单位的数量。时间步长的数量将由句子中的字数定义。

相关内容

最新更新