如何阻止估算器恢复每次训练的权重和全局步骤



我正在尝试使用tensorflow高级API来开发模型,但在训练和可视化阶段发现了一个问题:

对于相同的 model_fn((,每次我尝试调用 estimator.train(( 方法时,global_step都会比我上次训练的步骤增加。 例如,如果上次运行 estimator.train(( 方法进行到 global_step = 2000,那么这次当我开始训练模型时,它将从 2000 年开始累积, 2001, 2002年...

我的问题是:出于某种原因,我想每次都从头开始训练一个模型。 也就是说,当我再次启动训练时,我不需要 estimator 来恢复之前训练的权重。

目前,我只是在每次启动新培训之前手动删除检查点和事件文件,这确实效率低下。但是,即便如此,上次仍然存在残余曲线,我无法以这种方式删除。

我该如何处理?

估算器中的model_dir选项是提供保存模型(检查点和其他内容(的路径。因此,每次开始训练时,它都会查看该路径,查看是否有任何检查点,如果有,它将选择最后一个检查点并将权重加载到模型中并开始训练,这就是每次检查点增加的原因。

似乎有一种方法可以完全停止保存检查点,请查看此链接。

目前,每当我想开始新的培训时,我都会为model_dir路径提供一个新的位置。我将检查路径是否存在,如果不存在,我将创建该文件夹。

最新更新