人工神经网络:初始神经元的选择

Question

最初的结构(神经元和它们之间的连接)是如何选择的？我的书只说我们在训练网络之前先给连接随机加权。

我想我们会在训练中加入神经元，就像这样：

1. 从一个完全空的网络
2. 开始，我在训练期间生成的第一个值将不存在
3. ，添加一个神经元来对应这个值，带有一个随机权重

。

Answer 1

你想要的是一个自组织的安。通常，连接的组织方式是人为的，开发人员认为该模型将有足够的能力来执行所需的计算。当然，您可以从随机选择具有随机连接的节点开始，但是这种网络的演化可能需要比标准的两层或三层网络更长的时间。

所以，是的，你是对的，在做一个自组织网络时，你会使用类似的方法。跟踪两组遗传算法，一组用于结构，一组用于权重(或以某种曲折的方式将两者结合起来)，然后随您的喜好进化。

Answer 2

我不认为这个问题是关于自我组织或遗传进化的年。这听起来更像是一个最常见的人工神经网络:感知器(单层或多层)，在这种情况下，网络的结构:层数和层的大小，必须在开始时手工选择。初始化权重的一个简单的初始经验规则是简单地在-1.0和1.0之间选择一致的随机值。