基于图像训练数据集中图像的平均值和标准偏差的标准化意味着什么



在densenet模型的实现中,如Chexnet Paper所示,在第3.1节中,提到:

在将图像输入网络之前,我们将图像降低到224x224,根据图像的平均值和标准对图像的归一化图像在ImageNet训练集中的平均值和标准式增量

  1. 为什么我们要标准化不同数据集的均值和std的新图像集?
  2. 我们如何获得Imagenet数据集的平均值和性病?它在某个地方提供吗?

减去均值中心输入为0,而除以标准偏差,使任何标准偏差的缩放值都远离平均值。

考虑神经网络如何学习其权重。c(nn)通过不断添加梯度错误向量(乘以学习率),从培训示例通过。

这里要注意的是"乘以学习率"。

如果我们没有扩展输入培训向量,则每个功能的特征值分布范围可能会有所不同,因此,学习率将在每个维度中导致校正,而在每个维度上会导致(按比例演讲)其他。我们可能会过度补偿一个重量维度的校正,同时在另一个重新负担中进行补偿。

这是非理想的,因为我们可能会发现自己处于振荡状态(无法以更高的成本(重量)空间为中心)状态或缓慢移动(行驶速度太慢而无法达到更好的最大值)状态。

原始帖子:https://stats.stackexchange.com/questions/185853/why-do-we-need-need-to-normalize-the-images-bebe-be before-we-put-put-them-into-cnn

他们使用了成像网训练集的平均值和std dev,因为它们的模型的权重是在图像网上预测的(请参见本文的模型体系结构和训练部分)。

最新更新