如何设计适合某一功能的神经网络？

Question

如何设计一个具有1个输入、1个输出、1个隐层和4个神经元的函数y = 9x + 3x^ + 8x^3 + 2x^4 + 2的反向传播神经网络？

Answer 1

神经网络需要一些数据来处理。所以，用y= f(x)创建一个数据集。

x                              y
=======================================
0                              2
1                              y = 9x1 + 3x1 + 8x1 + 2x1 + 2
2                              y = 9x2 + 3x4 + 8x8 + 2x16 + 2
...                            ...

然后使用keras建立一个包含输入层、隐藏层和输出层的顺序模型。

遵循keras.io获取有关如何在给定数据集上构建、编译和训练模型的更多详细信息

不仅如此，如果您已经知道f(x)，那么您不需要任何模型，您可以直接应用它。神经网络或任何ML模型的主要目的是估计给定数据集的f(x)。

Answer 2

考虑到体系结构上的约束，我希望您实际上被要求编写一些激活函数。请注意，一个包含4个隐藏神经元的小神经网络将永远不会在relus/sigmoids中很好地学习这样的函数。

但是，如果我们给这个隐藏单元一个激活的f_i(x) := x^i，那么你就可以学习到你的小网络的这种功能。你甚至可以手动猜出重量！