多层前馈神经实验室网络的高错误率

Question

为什么我的网络显示高错误？

我需要遵循这些规则-

multi-layer feedforward (2 inputs, 1 output);

第一个输入有262144个值(从0到256)，第二个输入有262144个值(从0到1024)。

我只使用了一个隐藏层。我的错误是这样的：

Epoch: 1; Error: 2816810148.1; 
Epoch: 2; Error: 2814260288.59; 
Epoch: 3; Error: 2813602739.7; 
Epoch: 4; Error: 2813385229.99; 
Epoch: 5; Error: 2813308095.39;

Answer 1

您应该对第一列和第二列的输入进行规范化。然后去规格化你的输出。还可以考虑缩放第二列，使其值更接近第一列。它会给你更好的误差曲面。

Answer 2

看起来您的网络完全按照预期工作。在每个时期，误差都会下降。网络以随机的“猜测”初始化，然后从那里移动-它没有预见到它必须生成的答案。在250K+输入值达到1000的情况下，不难想象您的错误会如此之高(您还没有说明您的错误度量是什么)。这是大量的数据，它将需要大量的纪元(最小1000秒)才能得到有用的东西。在第一纪元和第二纪元之间，你的误差，无论是什么单位，都下降了250万分。我想说这是一些改进。你是否让它运行了几个小时，看看它是否能够在合理的时间内解决这个问题？