神经网络中的抽象

Question

在我大学的非线性动力学课中，我们讨论了一个简单的感知器，它有两个输入神经元和一个输出神经元，并根据这些模式进行训练。

pattern | Input | Output
   1    |  1,0  |   2
   2    |  3,1  |   6
   3    |  0,0  |   0

求解方程组确定权值

w_1(1) + w_2(0) = 2

w_1(3) + w_2(1) = 6

w_1(0) + w_2(0) = 0

给出w_1 = 2和w_2 = 0，这意味着感知器进行了抽象。在更高级的神经网络中，(a)如何测试网络中的抽象，以及(b)如何解释这种抽象的含义？

Answer 1

由于每个特性(列)的权重决定了该列在确定输出值方面的重要性，因此抽象意味着最有效和最正确的权重。例如，在这里，模式1的特性是1和0，并且每个特性都被赋予一个权重乘以，并与其一起计算输出：

feature1 *权重1+ feature2 * weight2 =输出

因此，根据当前的模式，给出现有输出的权重的最佳值是给定的值。

抽象的测试可以通过编译方法来完成。首先为特征分配初始值，然后将单个记录或一小块数据通过网络并计算成本函数，然后反向传播错误并为特征设置新的权重(根据每个特征对错误的责任程度)，这一过程还在继续。