在HuggingFace中使用wandb时控制测井频率和内容

Question

我在使用wandb和我的HuggingFace代码。我想记录损失和其他指标。现在我有两个问题

• wandb如何决定何时记录损失？这是由logging_steps in TrainingArguments(...)决定的吗？

training_args = TrainingArguments(output_dir="test", 
                                  learning_rate=lr,
                                  num_train_epochs=n_epoch,
                                  seed=seed,
                                  per_device_train_batch_size=2,
                                  per_device_eval_batch_size=2,
                                  logging_strategy="steps",
                                  logging_steps=5,
                                  report_to="wandb")

• 如何确保wandb记录其他度量(例如，在每个时代之后添加验证度量)？这是自动发生的吗？

Answer 1

正确，它是由训练器的on_log事件决定的，您可以在WandbCallback中看到它

每次验证时，您的验证指标都应该自动记录到W&B。培训师进行评估的频率取决于evaluation_strategy的设置(如果是evaluation_strategy == "steps"，则可能是eval_steps )。