Keras "Tanh Activation"功能 -- 编辑：隐藏层

Question

Tanh 激活函数将输出绑定到 [-1,1]。我想知道它是如何工作的，如果输入(功能和目标类(以 1-hot-coding 形式给出？

keras(在内部管理(激活函数的负输出如何将它们与类标签(采用单热编码形式(进行比较 - 仅表示 0 和 1(没有"-"ive 值(

谢谢！

Answer 1

首先，您根本不应该在输出层中使用它们。根据您的损失函数，您甚至可能会收到错误。像 mse 这样的损失函数应该能够接受 tanh 的输出，但它没有多大意义。

但如果谈论隐藏层，你完全没问题。还要记住，在将层的输出提供给激活函数之前，存在偏差可以训练对层的偏移。