BART finetune run_train.sh生成的模型存在性能问题

Question

我在75000的步骤中运行了run_train.sh脚本，模型仍然不能产生一个像样的摘要。

以下是从run_train.sh训练的模型生成的示例摘要，该模型仍然是如此破碎: Kimberly�有其他更好的‘她)。我是新的其他人“在aag喜欢。)在什么时候，-d你，']首先她A什么Kim Thef进入这里或说有自己的前NBC进来的will one女人'-到周围可以在另一个女人Produ ab它有，”out no up are]，New be isar？就这么办了

我确实注意到了https://github.com/huggingface/transformers/tree/master/examples/summarization/bart的"(WIP)红色分数“。我想知道微调代码是否已经完成了模型性能验证。

Answer 1

需要在模型配置中将output_past设置为true。详情请查看https://github.com/microsoft/nlp-recipes/pull/591