第一个纪元的准确性 - MNIST 深度学习示例



我是深度学习领域的新手,我想在我的第一个深度学习代码中澄清一些事情,即 MNIST 示例。也许我也完全错了,顺便说一句,所以请放轻松:)

我已将训练数据拆分为批次,每个批次的大小为 50,最大 epoch 为 15(或直到验证损失变量开始增加(。

我在第一个纪元上获得了 93% 的准确率,如果(据我所知(在第一个纪元上它只向前和向后传播了 1 次完整的训练集,所以训练集只有一次权重和偏差,这怎么可能?

我以为我会在许多时期后获得很好的准确性,而不仅仅是在第一次放弃重量时

是的。您也可以在第一个纪元中获得良好的精度。它更多地取决于数据和您构建的模型的复杂性。有时,如果学习率太高,那么也可能发生这种情况,您将获得更高的训练准确性。

此外,谈到调整权重和偏差部分,它可以是一个小批量训练,对于每个小批量,模型都会更新权重。因此,权重可以多次更新,这等于训练数据图像的数量/样本大小

最新更新