RNN怎么可能做情绪分析？

Question

我想知道在做情绪分析时如何使用RNN。

RNN的特点似乎是记住过去的事物，决定现在(未来)的价值，但我认为这种RNN的特征在分析情感时是无用的。

我很好奇，想知道如何通过记忆到目前为止出现的单词来进行情感分析。

我认为训练向量的方法是分析情感的唯一方法，它能显示出特定单词出现多少次。

如果某个RNN模型训练一个句子“好电影”并贴上“正面”标签，它能把一个新句子“电影好”预测成“积极”吗？

另外，如果一个正常的模型(刚刚完全连接的深层神经网络)训练一个句子“好电影”并贴上“正面”标签，这个模型很难将一个新句子“电影好”预测成“积极”吗？

Answer 1

RNNs不学会预测情绪。他们学习输入数据与目标标签之间的相关性。如果他们看到每次输入包含单词“坏”，他们必须生成标签“负面”，然后他们将学习它。如果他们在训练数据中看到以前的现象总是发生在“坏”之前的“不”，那么他们就会学到它。根据数据分布的情况，它们可以将否定概括为动词和形容词的任何组合，也可能不是，只有当输入的数据与训练数据非常相似时，它们才能适当地处理否定。

当RNN预测情绪时，你的问题似乎是为了理解RNN的“内部动态”。虽然在这方面进行了一些研究，但我认为它们仍然可以被认为是“黑盒子”，因为我们并不真正理解用神经网络建模的函数，因此它们的输出不能被“解释”。

Answer 2

这取决于您如何配置模型和所使用的层。您可以添加其他层的DNN，并对其进行实验。

您还应该考虑使用LSTM(长期短期内存)，因为过去的信息不会像RNN中那样快速衰减，并且保持当前值，因此有一个更好的基于RNN的模型。

您还可以使用一个双向LSTM (BLSTM)，它通过使用贯穿所有过去数据的单元格状态来改进学习过程，并很好地用于情感分析。

请记住，RNN不能在句子中检测到否定，就像说“这部电影不好”一样，通常ANN需要更多的配置来理解这些方面。

另一个技巧是在模型中添加一个CNN层，这样它就可以提取关键字，因此当您的数据被转发到基于RNN的层时，它将减少噪音，并且更多地面向特定的关键字。