从支持向量机到神经网络的移动(反向传播)

Question

我正在处理文本识别，目前我使用的是支持向量机方法。我也想试试神经网络。我读过一些关于神经网络是如何工作的文献，但是这个理论很重，我不知道它将如何适用于我的情况。所以，如果有人能帮我说清楚，尤其是神经网络的架构，那就太好了。

• 目前，在支持向量机中，我有200个特征(分为4大类)，用来识别文本。如果我移动到有200个特征的神经网络，这是否意味着输入层会有200个中子？
• 如果有200个特征，这将如何导致神经网络的结构(就数字层(隐藏层)和中子而言)？
• 在支持向量机中，我有一个分类(基本正确和错误)和多类分类(标签)，这种差异将如何适用于神经网络的输出层？

我还有几个一般性的问题：

• 什么能帮助决定隐藏层的数量和每个隐藏层内中子的数量？
• 隐藏层的数量是否与准确性有关？

我对神经网络很陌生，所以如果你能以一种不稳定的方式向我解释，那就太好了。:)

非常感谢。

Answer 1

点1-它将是200个输入神经元，其中每个神经元被赋予一个二进制数，或一个浮点(最好是归一化的范围-1到1)。

点2/4 -大多数问题都是通过一个单一的隐藏层来解决的。当然，如果你是从神经网络开始，你应该坚持一个隐藏的层。我还建议从少于200个输入神经元开始，尝试5或10个。在复杂的问题中使用多个隐藏层，例如，第一个隐层学习狗、猫、马等宏特征，下一个隐层学习眼睛、鼻子等更精细的特征。

没有明确的程序来确定隐藏神经元的数量。问题越复杂，理论上就越需要隐藏的神经元。如果你有10个输入神经元，从20个隐藏神经元开始。如果它不起作用，其他地方很可能出了问题。如果它确实有效，你可以减少隐藏神经元的数量，直到它失效。

你也可以从低谷开始工作。

点3-对于真和假分类，使用单个输出神经元，并使用0或1训练它。对于n类，使用1的n编码。

第5点-不。精确性是由网络的泛化能力来衡量的--也就是说，它对以前从未见过的数据的表现。一般来说，更多的训练数据=更准确。