如何在Allennlp 2.4.0中使用amp training？

Question

我已经学会了在https://medium.com/ai2-blog/tutorial-training-on-larger-batches-with-less-memory-in-allennlp-1cd2047d92ad的训练模型上使用AMP和GA技巧，但在2.4.0版中似乎不支持。

文件密钥第217行，在create_serialization_dir f“训练配置中‘{ "/root/anaconda3/envs/allennlp/lib/python3.6/site-packages/allennlp/training/util.py"，}’的值不匹配”中的值“

Answer 1

谢谢你的回答！@Dirk Groeneveld最后，在allennlp 2.4.0中使用AMP的正确方法：

"trainer": {
    "type":"gradient_descent",
    "use_amp": true,
    "num_gradient_accumulation_steps": 4,
    "distributed": true,
    ...
    }