计算机视觉-深度学习-在Conv网络模型之上进行微调

Question

我正在使用Alexnet架构对图像网络模型进行微调。我的数据集很小（每节课7张图片，没有增加）。我必须去掉最后一个FC层（"FC8"）的权重，但其他完全连接的层呢。对于"FC6"和"FC7"，我应该使用来自图像网络模型的权重还是从随机初始化？所有三个FC层的学习率均为5。

Answer 1

由于训练示例太少，我建议固定所有层（conv、fc6和fc7）的权重，并使用线性SVM来训练最后一层。大多数SVM训练包和算法都使用全局凸优化，在这种情况下可能比SGD产生更好的结果。