如何更好地处理我的数据和为我的神经网络设置参数？

Question

当我运行我的NN时，得到任何训练的唯一方法是，如果我将X除以1000。网络还需要70000次以下的训练，训练率为0.03，如果这些值较大，神经网络就会变得更糟。我认为这是由于数据处理不善，也许是因为缺乏偏见，但我真的不知道。Google Colab的代码

Answer 1

简而言之:你提到的所有问题以及更多的问题。

• 缩放是必不可少的，通常为0，方差为1。。否则，你会迅速饱和隐藏单位，他们的梯度将接近零，(几乎)没有学习将是可能的。
• 对这样的安来说，偏见是强制性的。这就像拟合线性函数的偏移量。如果你放弃了它，得到良好的身体将是非常困难的。
• 你似乎在检查你的训练数据的准确性。
• 你的训练样本很少。
• 乙状体被证明是糟糕的选择。使用ReLU并检查例如这里以获得解释。

另外，我建议在学习Python之前花一些时间学习它。对于初学者来说，避免使用global，如果你不小心的话，它会给你带来意想不到的行为。