我有一个特殊的预测问题。
我观察到M序列X_m = [x_1, x_2, ..., x_N],其中x_n和x_{n+1}之间的距离d是从相同的正态分布中得出的,例如d \sim N(\mu, \sigma^2)。我可以学习参数\mu, \sigma。
现在,我需要同时预测/生成一个完整的序列,如果预测\hat{x}_n属于真实数据点x_n的某种绝对容限,那么它就被认为是正确的。有一个警告:我可以在不受惩罚的情况下做出任意数量的预测,但是在预测\hat{x}_n和\hat{x}_{n+1}之间必须始终有一个最小的距离,在这里我们可以安全地假定\epsilon << d。直觉上,这使我想要预测一个模式,而不是试图预测每个点单独。
重新迭代:超出真实数据点容忍度的预测不受惩罚。我们只需要最大限度地增加正确预测的数量(这些预测属于真实数据点的允许范围)。
Example 1
Prediction: [10, 20, 30]
True observation: [11, 21, 31]
------------------------------
3 correct predictions if tolerance >= 1, else 0 correct predictionsExample 2
Epsilon = 4 (eg we can predict with a minimum distance 4)
Prediction: [6, 10, 15, 22, 30, 35]
True observation: [11, 21, 31]
-----------------------------------
tolerance = 1 => 2 correct predictions (10, 30)
tolerance = 2 => 3 correct predictions (10, 22, 30)解决这个问题的好方法是什么?有类似的问题吗?
为澄清而编辑。
发布于 2019-06-14 15:59:44
你所拥有的评估方案的最大问题--“成功”意味着在容忍范围内,“失败”意味着外部容忍,再加上你对模型输出的约束,每一步都需要改变--那就是很难提取梯度,以便直接训练预测模型。这就排除了许多简单而直接的回归模型,至少如果你想将“容忍内的分数最大化”作为目标函数的话。对顺序预测和允许重试的约束也是不可区分的,如果将其视为-is.
我认为你有两个最高级别的选择:
使用一个可微损失函数,当预测准确且满足约束时,该函数的得分最好。例如,单个预测值的损失函数可以是
L(\hat{x}_n, \hat{x}_{n+1}, x_{n+1}) = (\hat{x}_{n+1} - x_{n+1})^2 + \frac{a}{1+e^{s(|\hat{x}_n - \hat{x}_{n+1}| - \epsilon)}}
第二个约束部分本质上是乙状结肠,a控制满足约束的相对权重,预测精度控制满足约束的相对权重,s控制约束周围截止的陡度。
预测损失与约束损失之间的加权将是模型的一个超参数.因此,如果使用我建议的损失函数,则需要在参数中包括a和s。
您可以使用您的评分系统,不是作为一个目标函数,而是作为一个指标,以选择最佳模型的超参数搜索。
使用这种方法,您可以使用许多标准的序列学习模型,比如LSTM (如果您有足够的数据)。或者,您只需使用一个步骤预测模型,您就可以输入当前预测,再加上允许知道的序列的任何其他特性,并通过反复调用它生成序列。
这个系统应该鼓励更接近真正价值的重试。
这将需要一些替代的优化框架来围绕预测模型进行梯度下降(尽管有些框架可以在内部生成梯度)。可以使用遗传算法或其他优化器来管理模型的参数,并可以尝试更改模型参数以改进结果。
对于第二种情况,假设您有很好的理由避免构造可微损失函数,那么这个问题可以被描述为强化学习(RL):
\epsilon、d、\mu或\sigma都可以是当前状态的一部分。\epsilon添加约束您可以使用它构建一个RL环境,并训练一个将在其中包含您的预测/生成器模型的代理。在RL中有很多选项可以用来管理这个问题。但是RL给你的是一种使用不可微奖励来正式定义你的目标的方法,而内部模型仍然可以使用基于梯度的方法来训练。
这里不使用RL的主要原因是在生成序列结束时必须评估预测模型。在这种情况下,“动作”可能是整个序列,并且变得更难优化。从问题上看,情况是否如此,我并不十分清楚。
警告: RL是一个庞大而复杂的研究领域。如果您还不知道至少有一些RL,您可以期望花费几个星期的时间来处理它,然后才能开始在原来的问题上取得进展。
RL的替代方案也同样适用,比如齐整 --决定哪种方法最合适涉及到对项目的更多了解(例如,您希望预测的序列的复杂性)和实际方面,例如您有多少时间用于学习、测试和实现新技术。
如果允许无限重试,那么一个明显的策略是使用不同的步骤大小(都大于\epsilon)生成一个非常大的序列上下移动。这不需要任何学习模型,只需要一点智能编码就可以最终涵盖所有整数。在大多数语言中,这个模型很可能只是几行代码。
如果要排除这种情况,则需要一些其他规则或约束:
发布于 2019-06-14 16:00:17
我没有这方面的证据,但我希望你能做的最好的就是从你的训练数据中估计出区间时间的正态分布,然后在平均间隔时间预测点。您似乎没有任何功能,会指示什么时候间隔会比平均时间短或更长,所以您所能做的就是预测平均值,并让它在长期内计算出来。当然,如果平均间隔时间比最小预测间隔(epsilon)的两倍还长,您应该在缺口中插入更多的预测,因为这样做没有坏处。
https://datascience.stackexchange.com/questions/53792
复制相似问题