对二层神经网络中权值个数的怀疑

Question

考虑一个假设的场景，其中我们有10个输入层和5个输出层。

神经网络中有多少权重？

如果这是用放火枪实现的，答案将是50。但是应该是15，因为输入层有10个权重，输出层有5个权重？请解决我的疑虑。

请原谅我的英语，不是以英语为母语的人。

Answer 1

一个层中的所有单元都连接到下一层中的所有单元。要做到这一点，第一层中的所有单元都需要最后一层中的每个单元的权重。因此，你得到的权重数是乘法的，而不是你假设的加法。

例如，让我们在最后再添加一个有3个单元的图层，也许它会更清晰。我们有多层的单位10、5、3。然后我们将得到前两层之间的W_1: 10\times5=50权重和最后两层之间的W_2: 5\times3=15权重，它们加在一起就是W_1 + W_2 = W <=> 50 + 15 = 65。