神经网络中隐神经元的确定

Question

如何选择隐层的神经元数(反向传播网络)？对于选择隐藏神经元的数量是否有任何严格的规则？我在一些文章中发现，它应该几乎等于(no_input_neurons * no_output_neurons)的平方根。但这对我没用。选择神经元是一种成功的试验方法吗？

我正在尝试设计的神经网络，以便从基本(已经做过XOR)开始。我该怎么做？我在不同的论坛上发现隐藏神经元的数量不同。你有什么想法？

Answer 1

为反向传播网络选择隐藏层有点黑魔法，但您可以在一定程度上对其进行推理。正如您所知道的，通过学习，网络可以在高维空间中确定平面的参数，从而能够正确地对输入进行分类。所以你需要足够多的神经元来区分不同的输入。五年多前，当我研究神经网络时，它曾是一个活跃的研究课题。也许可以看看这篇论文：反向传播学习中最优隐单元大小和学习速率的代数投影分析

对于其他类型的网络，如递归网络，有一些技术可以帮助找到正确的体系结构，例如可视化学习的权重，有时明显类似于输入的特征。

Answer 2

确定隐藏层/神经元的数量是基于一种尝试和错误方法，并且高度依赖于您使用的训练数据的类型。我总是尝试先把隐藏神经元的数量与输入神经元的数目相匹配，然后再进行增量/递减。试着改变训练时代的数量和学习速度。