什么是广义前馈神经网络(GFF)？

Question

我在一些研究论文中发现了GFF这个词。我在https://www.semanticscholar.org/paper/The-Systematic-Trajectory-Search-Algorithm-for-the-Chen-Tseng/5c01686a41c31a6b7a9077edb323ed88cf158a98上找到了一条关于GFF的线，上面写着"...links不仅仅限于从一层到下一层“。是否一个层的一部分链接可以跳过下一个层，然后传送到另一个不相邻的层？如果是，那么相邻层的链接将做什么？有人能给这种类型的网络点灯吗？

Answer 1

我不知道你在哪里弄糊涂了。图1中的插图对我来说很容易澄清。是的，链接可以从任何一层到任何较高层；链接不限于下一层。注意输入层中的节点1如何驱动三个层中每个层中的隐藏节点以及输出层。我将继续使用节点1；四个输入节点在拓扑上是相同的。

我不知道你在哪里混淆了“相邻层的链接”。根据您的用法，我想您可以将一个链接命名为它的源节点的层所拥有的链接。例如，从节点5到节点8的链接“属于”第一(最低)隐藏层，而不是输出层。

通过这种用法，让我们看看一个具体的例子:从节点1到节点6(中间隐藏层)的链接，跳过最低隐藏层(由节点5组成)。为了举例说明，让我们忽略节点1中的其他链接。现在，节点1只驱动节点6，直接从输入层驱动它。这种跳过根本不影响其他链接:它们继续执行它们所做的工作:将源节点的值驱动到目标节点的线性方程中。节点5继续是其他输入节点的函数；节点5继续驱动节点6、7和8。

也许您的担忧可以通过跳过的每一层中的“虚拟”节点来缓解。同样，让我们关注从节点1(到节点5、6、7、8)的链接。与其让节点1跳过层，不如在低层、中间层和高隐藏层中添加节点1.2、1.3和1.4。替换节点1中的“船长”链接。相反，使用这些链接，顶部(输出)到底部(输入)。

1.4 -> 8
1.3 -> 1.4
1.3 -> 7
1.2 -> 1.3
1.2 -> 6
1   -> 1.2
1   -> 5

在序列1 -> 1.2 -> 1.3 -> 1.4中，所有链路(边缘)权重为1，偏差为0。您现在有一个具有相同代数属性的拓扑，并且没有链接跳过一个层。

请注意，任何有限的无环网络都是一个GFF。“层”为我们的设计提供了方便；拓扑只通过从输入节点到输出节点的最长路径和从输出节点到输出节点的最长路径来限制节点的“层”。它帮助我们将节点组织为我们自己的目的、定时、调试等层次，但是一个通用的流模拟器并不在意。它只关心哪个节点驱动哪些其他节点，以及给定节点是否具有在下一个计算周期中驱动其输出链接所需的所有输入。

这有用吗？