R中的神经网络预测股票收益

Question

我正在使用neuralnet软件包，并使用neuralnet函数来训练我的数据和计算来预测。

x <- neuralnet( X15  ~ X1 + X2 + X3 + X8, norm_ind[1:15000,],2,act.fct="tanh",linear.output=TRUE)
pr <- compute(x,testdata)

我面临的问题是，所有数据点的pr$net.result值几乎都是恒定的。

我预测股票的回报，并提前一天提供股票的实际回报作为目标函数，即公式中的X15。正如你在下面看到的，我得到的输出几乎是恒定的。有人能告诉我需要做什么吗？

1084 0.00002217204168
1085 0.00002217204168
1086 0.00002217204168
1087 0.00002217204168
1088 0.00002217204168
1089 0.00002217204168
1090 0.00002217204168
1091 0.00002217204168
1092 0.00002217204168
1093 0.00002217204168
1094 0.00002217204168
1095 0.00002217204168
1096 0.00002217204168
1097 0.00002217204168
1098 0.00002217204168
1099 0.00002217204168
1100 0.00002217204168

Answer 1

在通过neuralnet教授神经网络之前，强烈建议对数据进行缩放：

learn <- scale(learn)
# be honest and use the mean and scaling inferred from the training set -
# the test set could in principle contain only one element causing an incorrect scaling
test <- scale(test, center = attributes(learn)$`scaled:center`, scale = attributes(learn)$`scaled:scale`)
model <- neuralnet(formula, learn, ...)
compute(model, test)$net.result

神经网络对数据的移动和缩放很敏感。此外，初始权重是从类似于标准正态分布的分布中随机选择的。

例如，参见Yoshua Bengio 1的一篇优秀论文中的3.2章“预处理”(以及更多)。

现代更新：现代网络通常通过使用归一化层来接近这种敏感度，可能带有经过训练的参数。最广为人知和最受欢迎的是批处理标准化2。

1

2

Answer 2

我不确定这是否是问题所在，但只有2个隐藏节点可能是这个问题的原因。

Answer 3

尝试将neuralnet函数中的learningrate参数设置为类似于learningrate=0.01的值

缺省值为NULL，我发现这会在使用nnet()执行类似测试时导致类似的问题。