无序数据的神经网络结构

Question

假设你有500个类别的10个特性。每个输入只能发生一次类别。这些特性可以按任何特定的顺序排列。例如1,2,3,4,5，.，5,3,4,2,1，.等这个顺序并不重要，所以1,2,3,4,5，.= 5,3,4,2,1，.因此，您洗牌您的培训数据，以培训网络上的无序数据。

现在你想把它输入你的神经网络。我想到了3种架构：

输入:带嵌入的n_features)

• LSTM (输入: embedding_dim，序列Len: n_features)

• LSTM，输入: feature_dim，序列Len: n_features)

其中哪一个在你基于证据的研究中的无序数据上表现得更好？

您是否有任何其他的架构，表现良好的无序数据。(也许在没有必要重新整理培训数据的地方)

Answer 1

你到底想做什么模特？这些信息可能会为如何处理这个问题提供一些线索。

如果我的理解是正确的，那么您正在尝试从大小为10的无序多个集合中学习。每个元素可能假设500个类别中的一个。

它可能有助于对数据进行一些预处理。我想到的两种方法是：

1. 每个样本可以编码为大小为500的向量，其中每个分量表示各自元素的多重性，例如，1，1，1，1，3，3，3，4，4，4，5将表示为4,0,3,2,1,0，……
2. 另一种简单的方法可以是重新排序您的样本。否则，不同输入的数量将非常高，即500^10.

。