我使用Autoencoder对数据进行预训练,为此我将输入数据标准化并传递到Autoencoders。因此,自动编码器最终将减少功能的数量。
现在我想使用autoencoder的输出来执行预测任务。为此,我想将自动编码器的输出传递到一个完全馈送的网络中。
我的问题是,在将数据传递到完全馈送网络之前,我需要再次规范化数据吗?
通常不会,例如,由于正则化。隐藏层的输出应居中并规范化。但是,如果您查看自动编码器公式argmin_{f,g} ( X- f(g(X))
。没有什么可以阻止自动编码器学习非规范化数据。
那么你能做什么呢?
- 检查您的训练数据是否已在隐藏层中正常化
- 无论如何都要规范化数据。这没有害处,因为这是一项相当便宜的手术