在神经网络的背景下，“稀疏”是什么意思？

Question

我见过“稀疏”和“稀疏”的使用方式，表明它可以提高模型的准确性。例如：

我认为，如果使用一些稀疏连接或神经元，例如整流单元或卷积连接，并且可以获得大量的训练数据，那么无监督阶段可能就不那么重要了。

来自https://www.quora.com/When-does-unsupervised-pre-training-improve-classification-accuracy-for-a-deep-neural-network-When-does-it-not

在这种情况下，“稀疏”是什么意思？

Answer 1

从外行英语中的意思可以推断，稀疏是指神经元之间连接的稀疏性，基本上，权值在某些情况下没有意义(接近0)，它也可能指的是我们没有所有连接，而连接本身却非常少(权重较小)的情况。