如何使用 Keras 合并或连接两个顺序模型?

Question

我有一个带有两个文本字段的数据集，在标记化后，我制作了两个顺序模型，我正在尝试合并或合并，但在合并时遇到错误。

我已经构建了两个顺序模型，我正在尝试在不使用 Keras 函数 API 的情况下合并它们。

# define the model
model1 = Sequential()
model1.add(Embedding(vocabulary_size_1, embedding_size, input_length=MAXLEN))
model1.add(Flatten())
model1.add(Dense(op_units, activation='softmax'))
# define the model
model2 = Sequential()
model2.add(Embedding(vocabulary_size_2, embedding_size, input_length=MAXLEN))
model2.add(Flatten())
model2.add(Dense(op_units, activation='softmax'))
merged = concatenate(axis=1)
merged_model=merged([model1.output, model2.ouput])
TypeError                                 Traceback (most recent call last)
<ipython-input-76-79cf08fec6fc> in <module>
----> 1 merged = concatenate(axis=1)
2 merged_model=merged([model1.output, model2.ouput])
TypeError: concatenate() missing 1 required positional argument: 'inputs'

我期待一种不使用 Keras 函数式 API 的方法

Answer 1

concatenate()函数要求您指定要连接的模型。

merged = concatenate([model1,model2],axis=1).但是，轴必须是 axis=-1(您可以使用在 yopur 情况下合适的任何轴。

您的代码可以进一步以功能方式编写，如下所示：

inputs = Input(shape=(vocabulary_size,embedding_size), dtype='float32')
model1=Embedding(vocabulary_size, embedding_size)(inputs)
model1=Flatten()(model1)
model1=Dense(op_units, activation='softmax')(model1)
model2=Embedding(vocabulary_size, embedding_size)(inputs)
model2=Flatten()(model2)
model2=Dense(op_units,activation='softmax')(model2)
merged = concatenate([model1,model2],axis=-1)
model=Model(inputs=inputs,outputs=merged)

Answer 2

model1.output和model2.output是张量。我假设两个模型共享相同的输入。有几种方法，这是 Keras 中处理这些模型的解决方案。您可以使用keras.layers.Concatenate和keras.models.Model：

inp = Input([MAXLEN,])
out = Concatenate()([model1(inp), model2(inp)])
model = Model(inp, out)

如果它们不共享相同的文本输入。您也可以这样做：

inp = [model1.input, model2.input]
out = Concatenate()([model1.output, model2.output])
model = Model(inp, out)

默认情况下，这会在最后一个维度上连接输出，这些输出恰好是同一axis=1。

无论如何，连接softmax输出似乎很奇怪。如果有两个不同的文本具有两个不同的预测，则需要两个输出。您不需要连接它们。您可以将输出作为列表，并忽略串联：

inp = [model1.input, model2.input]
out = [model1.output, model2.output]
model = Model(inp, out)

如果您获得了其他类型的输出，例如 numpy 数组，那么情况就不同了。