4D张量形状

Question

我读了一本机器学习书，在CNN的章节中看到了这个。

卷积层的权值表示为fh，fw，fn‘，fn形状的4D张量。卷积层的偏置项简单地表示为fn形的一维张量。其中，fh是接收场的高度，fw是接收场的宽度。fn‘是前一层中的特征映射数，fn是当前层中的特征映射数。

我正试图理解给定顺序中的每个数字意味着什么。它是否创建了一个4级矩阵，其中每个条目表示一个输出神经元从上一层与接受字段中的特定特征映射和位置连接到当前输出神经元的权重？

Answer 1

fn'

它表示前一层中的通道数，这也间接地指定了当前层中每个kernels的kernels(或通道)。

fn

它表示当前层的特征映射数，即当前层中不同kernels的个数。因为每个内核都输出单个通道。

fw

它表示kernel宽度。

fh

它代表kernel的高度。

假设[fh, fw, fn′, fn] = [3, 3, 10, 20]然后层(重量)为20x10x3x3大小。每个内核的大小都是10x3x3 (其中3x3是空间的，10是深度的)，并且有20个这样的内核。这些内核对以前的20功能映射进行操作，以输出10功能映射。

4d矩阵中表示weight的每个条目都将被共享。doesn't连接神经元one to one是因为convolution。卷积本身的主要优点是parameter sharing和接收场/局部连通性。