我正在尝试使用keras从加速计信号构建一个活动分类器。然而,即使使用最简单的模型,我也遇到了数据过度拟合的情况。
输入数据的形状为(10,3),并且包含来自加速度计的3维数据的大约.1秒。这个模型很简单
model = Sequential()
model.add(Flatten(input_shape=(10,3)))
model.add(Dense(2, activation='softmax'))
model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])模型应该为步行活动输出标签1,0,为非步行活动输出标签0,1。经过训练,我获得了99.8%的准确率(如果它是真实的……)。当我尝试对没有用于训练的数据进行预测时,我得到了50%的准确率,验证了除了预测单个类值之外,网络并没有真正“学习”任何东西。
数据是从100 The三轴加速度计信号准备的。我没有以任何方式预处理数据,除了将其窗口化到长度为10的bin中,该bin与前一个bin重叠50%。我可以采取哪些措施来使网络产生实际的预测?我尝试增加窗口大小,但结果保持不变。任何建议/一般技巧都是非常感谢的。
伊恩
发布于 2018-01-18 11:13:16
尝试向您的网络添加一些隐藏层和丢弃层。你可以创建一个简单的Multi Layer Perceptron (MLP),在你的扁平层和密集层之间有几条额外的线:
model.add(Dense(64, activation='relu', input_dim=30))
model.add(Dropout(0.25))
model.add(Dense(64, activation='relu'))
model.add(Dropout(0.1))Or check out this guide.,解释了如何创建一个简单的MLP。
如果没有任何隐藏层,你的模型实际上不会从输入数据中“学习”,而是将输入特征数映射到输出特征数。
您添加的层越多,它应该从输入数据中提取的中间特征和模式就越多,这应该会为测试数据带来更好的模型预测。要设计出最好的模型需要进行大量的试验和错误,因为太多的层可能会导致过度拟合。
您没有提供有关如何训练模型的信息,因此这也可能是问题的原因。您必须确保将数据放入训练、测试和验证集。用于训练、验证和测试数据的一些可能的拆分比率为: 60%:20%:20%或70%:15%:15%。这最终也是你必须决定的事情。
发布于 2018-01-18 14:38:35
过拟合的问题是由输入数据类型引起的。传递给分类器的值应该是带两个小数位的浮点值。在此过程中的某个地方,这些值中的一些已经被增加,并且有明显超过2位的小数位。也就是说,输入应该如下所示
[9.81, 10.22, 11.3]而是看起来像
[9.81000000012, 10.220010431, 11.3000000101] 分类器是基于这个特征进行预测的,这显然不是期望的行为!经验教训--确保数据准备的一致性!感谢@umutto对随机森林的建议,简单的结构有助于诊断目的。
https://stackoverflow.com/questions/48313205
复制相似问题