低准确率的RNN LSTM情感分析模型

Question

我有一个包含200000个样本的数据集。我正在使用Sklearn的train_test_split。

model = Sequential()
model.add(Embedding(50000,128, input_length=14))
model.add(LSTM(16, return_sequences=True, dropout=0.3, recurrent_dropout=0.2))
model.add(LSTM(16, dropout=0.3, recurrent_dropout=0.2))

model.add(Dense(1, activation='sigmoid'))
model.compile(loss='mean_squared_logarithmic_error', optimizer='Adam', metrics=['accuracy'])

我得到的准确率很低= 0.39。

我能知道我做错了什么吗？

Answer 1

尝试在LSTM和最后一层之间添加更多完全连接的层

model = Sequential()
model.add(Embedding(50000,128, input_length=14))
model.add(LSTM(16, return_sequences=True, dropout=0.3, recurrent_dropout=0.2))
model.add(LSTM(16, dropout=0.3, recurrent_dropout=0.2))
####model.add(Dense(10))####
model.add(Dense(1, activation='sigmoid'))
model.compile(loss='mean_squared_logarithmic_error', optimizer='Adam', metrics=['accuracy'])

Answer 2

Low是相对的。你期望的准确度是多少，你比较的基准模型是什么？

另外，为什么要为您的超参数选择这些特定值？你有没有尝试过寻找最优的超参数？