多项logistic回归在二维输入回归中的应用

Question

我正在尝试实现一个用于多类预测的堆叠集成模型。

每个训练例子都是一个向量，有14个特征。总共有12个可能的课程。三个基本模型(下面描述)每个都包含一个14维的特征向量训练示例，并输出一个12维概率向量(1概率/类)。

这三个基本分类模型是从头构建的(即不使用sklearn构建，因此我不能简单地使用sklearn集成方法)，如下所示：

• Bayes网:为每个14维训练示例
• 输出一个12维概率向量(1概率/类)其他图形模型:为每个14维训练示例输出概率的12维向量(1概率/类)
• 度量学习模型:为每个14维训练示例

输出一个12维概率向量(1概率/类)。

我想将每个训练示例的基本模型的输出叠加起来(即，每个训练示例的3x12 -d概率向量)，并将这个3x12数组作为多项logistic回归集成模型的输入，为每个训练示例的最终多类预测输出一个12维概率向量。

但是，我不确定是否可以使用sklearn多项式回归模型。据我理解，sklearn模型只能包含一个一维功能数组，而不是一个二维功能数组。

欢迎提出任何建议。谢谢。

Answer 1

因此，最终的解决办法是非常简单的:将每个基本模型的3x12矢量输出压平成一个1x36特征向量，然后输入集成模型。

另一种选择是利用基本模型预测建立张量，然后使用不同类型的集成分类器，即CNN，但是这种方法被拒绝了。