首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Keras稠密网过拟合

问Keras稠密网过拟合
EN

Stack Overflow用户
提问于 2018-01-18 11:04:49
回答 2查看 2K关注 0票数 1

我正在尝试使用keras从加速计信号构建一个活动分类器。然而,即使使用最简单的模型,我也遇到了数据过度拟合的情况。

输入数据的形状为(10,3),并且包含来自加速度计的3维数据的大约.1秒。这个模型很简单

代码语言:javascript
复制
model = Sequential()
model.add(Flatten(input_shape=(10,3)))
model.add(Dense(2, activation='softmax'))
model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])

模型应该为步行活动输出标签1,0,为非步行活动输出标签0,1。经过训练,我获得了99.8%的准确率(如果它是真实的……)。当我尝试对没有用于训练的数据进行预测时,我得到了50%的准确率,验证了除了预测单个类值之外,网络并没有真正“学习”任何东西。

数据是从100 The三轴加速度计信号准备的。我没有以任何方式预处理数据,除了将其窗口化到长度为10的bin中,该bin与前一个bin重叠50%。我可以采取哪些措施来使网络产生实际的预测?我尝试增加窗口大小,但结果保持不变。任何建议/一般技巧都是非常感谢的。

伊恩

EN

回答 2

Stack Overflow用户

发布于 2018-01-18 11:13:16

尝试向您的网络添加一些隐藏层和丢弃层。你可以创建一个简单的Multi Layer Perceptron (MLP),在你的扁平层和密集层之间有几条额外的线:

代码语言:javascript
复制
model.add(Dense(64, activation='relu', input_dim=30))
model.add(Dropout(0.25))
model.add(Dense(64, activation='relu'))
model.add(Dropout(0.1))

Or check out this guide.,解释了如何创建一个简单的MLP。

如果没有任何隐藏层,你的模型实际上不会从输入数据中“学习”,而是将输入特征数映射到输出特征数。

您添加的层越多,它应该从输入数据中提取的中间特征和模式就越多,这应该会为测试数据带来更好的模型预测。要设计出最好的模型需要进行大量的试验和错误,因为太多的层可能会导致过度拟合。

您没有提供有关如何训练模型的信息,因此这也可能是问题的原因。您必须确保将数据放入训练、测试和验证集。用于训练、验证和测试数据的一些可能的拆分比率为: 60%:20%:20%或70%:15%:15%。这最终也是你必须决定的事情。

票数 0
EN

Stack Overflow用户

发布于 2018-01-18 14:38:35

过拟合的问题是由输入数据类型引起的。传递给分类器的值应该是带两个小数位的浮点值。在此过程中的某个地方,这些值中的一些已经被增加,并且有明显超过2位的小数位。也就是说,输入应该如下所示

代码语言:javascript
复制
[9.81, 10.22, 11.3]

而是看起来像

代码语言:javascript
复制
[9.81000000012, 10.220010431, 11.3000000101]    

分类器是基于这个特征进行预测的,这显然不是期望的行为!经验教训--确保数据准备的一致性!感谢@umutto对随机森林的建议,简单的结构有助于诊断目的。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/48313205

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档