使用带HuggingFace的魔杖时,控制测井频率和内容



我正在将wandb与HuggingFace代码一起使用。我想记录损失和其他指标。现在我有两个问题

  • wandb如何决定何时记录损失?这是由TrainingArguments(...)中的logging_steps决定的吗
training_args = TrainingArguments(output_dir="test", 
learning_rate=lr,
num_train_epochs=n_epoch,
seed=seed,
per_device_train_batch_size=2,
per_device_eval_batch_size=2,
logging_strategy="steps",
logging_steps=5,
report_to="wandb")
  • 如何确保wandb记录其他度量(例如,在每个历元后添加验证度量(?这是自动发生的吗

正确,它是由培训师的on_log事件决定的,您可以在WandbCallback 中看到它

您的验证度量应该记录到W&B在每次验证时自动执行。培训师进行评估的频率取决于evaluation_strategy(如果是evaluation_strategy == "steps",则可能是eval_steps(的设置

最新更新