神经网络中的阈值和偏差

Question

我是新手.我不明白为什么我们在MLP (Multi-Layer Perceptron)中使用阈值和偏差？？阈值的作用是什么，bias..And --我不知道输出的公式(在我们使用激活函数(例如sigmoid)之后的结果)跟随偏差和threshold..In相同的文档，我看到：

output_value=activation_function(summing_function+threshold) (follow Jeff Heaton)
output_value=activation_function(summing_function-threshold)(follow my teacher)
output_value=activation_function(summing_function+bias) (no problem!)

哪个是正确的？？请给我一个答复！

在MLP?中，偏置和阈值可以同时存在。

Answer 1

MLP中的偏差和阈值是相同的概念，简单地说是同一事物的两个不同的名称。符号并不重要，因为偏倚可以是正的，也可以是负的(但是使用+偏向更常见)。

用最简单的术语来说--如果没有偏见，那么如果只输入0，就会得到summing_function=0，因此也会得到output_value=0 (因为大多数激活函数跨越原点)。因此，您的网络无法了解这种信号的任何其他行为，因为只改变整个模型的一部分是加权。

从更多的数学角度-这是负责转移激活函数，并赋予神经网络的通用逼近能力。