全卷积网络接受场

Question

关于接收场的计算存在许多问题。这里在StackOverflow上作了很好的解释。

然而，没有关于如何在完全卷积层中计算它的博客或教程，即使用残差块、特征映射级联和上采样层(如特征金字塔网络)。

1. 据我理解，剩余块和跳过连接不会对接收字段有所贡献，因此可以跳过。来自这里的回答。
2. 如何处理上采样层？例如，我们的有效接收场为900，然后是一个上采样层，接收场是否减半？
3. 当与前一层的特征映射连接时，接收字段是否会发生变化？

提前感谢！

Answer 1

为了逐一回答您的问题，让我们首先从以下上下文中接受字段的定义开始：

单个感觉神经元的感受场是感觉空间(例如，体表或视野)的特定区域，其中刺激将改变该神经元的放电。

以从维基百科为例。这意味着我们正在寻找所有的像素在您的输入，影响当前输出。逻辑上，如果您使用单个3x3滤波器内核执行卷积-say，则单个像素的接收域是输入区域中相应的3x3图像区域，该区域在该特定步骤中被转换。

从视觉上看，在此图形中，较暗的底层区域标记输出中特定像素的接收字段：

​

现在，回答您的第一个问题:当然，剩余块仍然占了接受字段！让我们将剩余区块表示如下：

• F(X)：剩余块
• g_i(X)：单卷积块

然后，我们可以将残差块表示为F(X) = g_3(g_2(g_1(X))) + X，因此在本例中，我们将叠加3个卷积(作为示例)。当然，这个卷积的每一层仍然改变着接受场，因为它和开始解释的一样。当然，简单地添加X不会改变接收字段。但是，仅靠这个加法并不能形成一个剩余的块。

类似地，跳过连接不会影响接收字段，因为跳过层几乎总是会产生不同的(大部分是较小的)接受字段。但是，正如您在链接答案中所解释的那样，如果您的跳过连接有一个更大的接受字段()，它将产生不同的效果，因为接收字段是您通过流图的路径的不同区域的最大(更具体地说是合并)。

对于上采样层的问题，您可以通过问以下问题来猜出答案:图像中的任何地方都会影响输入图像的区域吗？

答案应该是“显然不是”。本质上，您仍然在查看输入区域中的相同区域，尽管现在您有了更高的分辨率，并且类似的像素实际上可能会看到相同的区域。要回到上面的GIF :如果绿色区域中有4倍的像素数，那么每个像素仍然必须查看蓝色区域中不改变大小的特定输入区域。所以不，升级不会影响到这一点。

关于最后一个问题:这与第一个问题非常相关。事实上，receptive字段会查看所有影响输出的像素，因此根据您要连接的功能映射，它可能会更改它。

同样，生成的接受字段是您正在连接的功能映射的接收字段的合并。如果它们彼此包含在一起( A subset of B或B subset of A，其中A和B是要连接的功能映射)，那么接收字段不会改变。否则，接受字段将是A union B。