如何更有效地分离重叠曲线？

Question

因此，我试图创建一个神经网络，它可以有效地分离出2条高斯曲线，它们的均值和标准差都有所不同。我的基本目标是，对于某些给定的输入向量，神经网络将从2条高斯曲线(基于输入向量的选择)中选择2点，并对它们进行比较，并根据给定的高斯曲线输出一个值，从而得到一个更大的值。

对于N(0,1)和N(0，2 0 0 0)的2条高斯曲线，我的神经网络的预测精度分别为6 8.75%和10 0%，对N(0,1)和N(5 0，1)的预测精度为10 0%(我的神经网络输出0, 1，从而可以方便地用true_positives/total_samples测量精度)。显然，重叠曲线越多，由于神经网络无法区分这两条曲线，其精度就越低。

我试着增加了隐藏层的数量，改变了学习速度，但在准确性方面仍然没有任何改善。我用的是有动量的反向传播。

那么，我的问题是，神经网络中的结构、学习算法和修改将帮助我有效地分离出两条重叠的曲线，从而获得更好的精度。

澄清1:我自己生成的数据是为了测试目的，在实际情况下，我将只有一个来自黑匣子的输入/输出对，而我所知道的黑匣子服从一些高斯分布。另外，输入向量必须以某种方式排列，然后如果我们将曲线拟合到它，结果是高斯的。

澄清2:我正在寻找可能的提示。这一领域的任何有经验的人都可以猜测一些更好的方法。我知道你不可能有明确的方法，所以建议一些可行的方法是值得欢迎的。

Answer 1

这里的问题不是你选择的神经网络架构，而是你在处理不可分离的数据。

没有任何实际的方法来区分多个共享模式的分布模式附近的观测。您所能做的最好的方法是近似于高方差分布比低方差分布更可能出现的模式之间的距离，并对相对于低方差分布的观测进行分类。你可以进行分析，而你的神经网络不会做得更好。

您是否尝试过可视化您的数据，以更好地理解您的任务，您的模型在这里？这比“重叠”发行版更极端一些。