使用张量流微调最后一个层旁边的其他层，用于初始 v3 预训练模型

Question

在我的分类任务中，我必须微调初始 V3 预训练模型。但是，当我在互联网上搜索时，似乎我只能微调该模型的最后一层。我想微调所有层，或者至少是完全连接的层，而不仅仅是顶部层。有人有解决方案吗？

谢谢

Answer 1

使用任何现有的初始训练代码，告诉它从包含要使用的初始值的检查点加载，并运行正常的训练过程将允许您微调所有层。