Tensorflow Keras LSTM Inference 一次一个输入

Question

我有以下序列标记 Keras 模型：

model = tf.keras.Sequential([
tf.keras.layers.Dropout(0.5),
tf.keras.layers.LSTM(64, return_sequences=True),
tf.keras.layers.Dense(2)
])

该模型采用一系列向量并预测两个类的对数。

在实时应用程序中，我每秒一次获取一个向量，并且我只想对收到的新向量执行推理，以便使用 LSTM 的先前隐藏状态。

---

例如，如果我只接收向量并运行：

# Received a
model(a)
# Received b
model(b)

该模型对两个向量(a和b(独立运行，并且不利用 LSTM 在步骤a之后以隐藏状态存储的时间信息。

有没有办法执行推理并使用这些状态？

---

不使用时态信息的预测代码示例

model = tf.keras.models.load_model('./.save/3jbry45d')
model.build(input_shape=(None, None, 25))
random_vec = tf.convert_to_tensor(np.random.randn(1, 1, 25))
for i in range(5):
print(model.predict(random_vec))

打印 5 次：

[[[ 0.11500816 -0.5686636 ]]]

Answer 1

试试这个：

model = tf.keras.Sequential([
tf.keras.layers.LSTM(64,
batch_input_shape = (1, None, 64),
return_sequences=True,
stateful = True),
tf.keras.layers.Dense(2)
])
for _ in range(10):
print(model.predict(np.ones(64)[np.newaxis, np.newaxis])[0, 0])

打印的矢量将不同，因此使用内存。