偏置节点是如何集成在NEAT中的？

Question

在整洁中，您可以添加一个始终处于活动状态的特殊偏置输入节点。关于这样一个节点的实现，在原始论文中没有太多的信息。现在我想知道偏差节点应该如何表现，如果有一致意见的话。

所以问题是：

• 来自偏置节点的连接是在演化过程中产生的，对于新节点可以像常规连接那样被拆分，还是偏置节点总是连接到所有非输入节点？

Answer 1

为了回答我自己的问题:根据整洁用户页面的说法，肯尼思·O·斯坦利( Kenneth O. Stanley )谈到了为什么NEAT中的偏倚被用作额外的输入神经元：

为什么整洁地使用一个偏置节点而不是在每个节点中有一个偏置参数？ 主要是因为并不是所有的节点都需要一个偏差。因此，这将不必要地扩大搜索空间，以便为系统中的每个节点寻找适当的偏差。相反，我们让进化通过将偏置节点连接到这些节点来决定哪些节点需要偏差。这个问题不是一个主要的问题，它可以用任何一种方式。您可以轻松地将偏见编码到每个节点中，并尝试这样做。

因此，我最好的猜测是，偏置输入就像任何其他整齐的输入一样，其区别在于它始终是活动的。