CIFAR-10 上神经网络的训练误差最低



美好的一天!(或晚上(

CIFAR-10 数据集上全连接神经网络的训练集(

是否有可能达到 0.001 或 0?

你能从你的经历中告诉我吗?

附言我想从过度拟合它开始训练 NN,然后调整参数以获得更好的泛化......

由于您没有对隐藏层的宽度指定任何限制,因此答案很简单 - 0。一个浅层的单隐藏层神经网络(给定足够的隐藏单元(可以在任何有限的数据集上实现0的训练误差(在错误分类方面((只要没有两个具有不同标签的样本(。这直接来自UAT(通用近似定理,来自Cybenko(。当然,您在练习中会遇到的情况可能会有所不同,但总的来说,您可以在 Cifar10 上获得 100% 的训练准确率。

最新更新