如何构造集成模型的自学习过程？

Question

我有两个不同的(回归)模型，每天对同一因变量进行预测。我的意图是给这两个预测分配权重，并计算加权平均值。为此，我开发了一个简单的系统，每天计算模型的最小均方值并作为权重使用。因此，模型的MSE越高，分配给模型的权重就越低。然而，这是一个非常蹩脚的方法，我没有观察到任何改善相比，采取一个简单的平均预测。那么，我可以用什么方法来动态地分配这些预测的权重。也就是说，我想每天更新重量。从哪里开始？

注意:我知道，通过集成模型，我可以自动获得权重(即H2O叠加集成)。然而，我不被允许每天重新训练预测。因此，应用集成方法并对其进行日常再训练，在我的情况下是不适用的。

提前感谢！

Answer 1

它并不比你想象的要柔和得多，但是你可以尝试训练一个线性回归(在在线环境下，通过随机梯度下降)，它的输入是模型的预测，输出是预测变量的真实值。在这种情况下，您不需要重新训练整个数据集。

事实上，我认为所有的在线机器学习技术都可以在这种情况下应用。