大模型实操 | LoRA、QLoRA微调大模型实战技巧分享，含常见QA解答！

QA-9 LoRA权重可以组合吗？ 答案是肯定的。在训练期间，我们将 LoRA 权重和预训练权重分开，并在每次前向传播时加入。