我正在将wandb
与HuggingFace代码一起使用。我想记录损失和其他指标。现在我有两个问题
wandb
如何决定何时记录损失?这是由TrainingArguments(...)
中的logging_steps
决定的吗
training_args = TrainingArguments(output_dir="test",
learning_rate=lr,
num_train_epochs=n_epoch,
seed=seed,
per_device_train_batch_size=2,
per_device_eval_batch_size=2,
logging_strategy="steps",
logging_steps=5,
report_to="wandb")
- 如何确保
wandb
记录其他度量(例如,在每个历元后添加验证度量(?这是自动发生的吗
正确,它是由培训师的on_log
事件决定的,您可以在WandbCallback 中看到它
您的验证度量应该记录到W&B在每次验证时自动执行。培训师进行评估的频率取决于evaluation_strategy
(如果是evaluation_strategy == "steps"
,则可能是eval_steps
(的设置