ANN、SVM和KNN分类器有什么区别？

Question

我在做遥感图像分类。采用面向对象的方法:首先将图像分割成不同的区域，然后从颜色、形状和纹理等区域提取特征。一个区域的所有特征的数量可能是30个，通常有2000个区域，我将选择5个类，每个类有15个样本。

总结如下：

• 样本数据1530
• 测试数据197530

如何选择合适的分类器？如果有三个分类器(ANN、SVM和KNN)，那么我应该选择哪一个来进行更好的分类？

Answer 1

如果你的“样本数据”是火车集合，它看起来很小。首先，我建议每堂课使用15个以上的例子。

正如注释中所说的，最好将算法与问题相匹配，因此您可以简单地测试看看哪种算法工作得更好。但首先，我建议支持向量机:它比小火车组的KNN更好用，而且通常比ANN更容易训练，因为选择较少。

Answer 2

KNN是最基本的机器学习算法，但正如@etov所暗示的那样，由于训练数据量小，SVM的性能很可能优于SVM。据观察，ANNs也受到培训数据不足的限制。然而，KNN对你的数据做了最少的假设，除了精确的训练数据应该形成相对独立的聚类。ANN和SVM是众所周知的很难描述的，特别是如果您希望使用多个数据集重复这个过程，并且依赖于某些假设，例如您的数据是线性可分的(SVM)。

我还建议使用随机森林算法，因为这很容易实现，而且对训练数据大小相对不敏感，但我建议不要使用非常小的训练数据大小。

scikit-learn模块包含这些算法，并且能够处理大量的培训数据大小，因此可以增加训练数据样本的数量。要确定的最好方法是自己调查，就像@etov建议的那样

Answer 3

看一看下面的思维图

​

​

KNN :对于非文本数据，当样本大小<100 K记录时，KNN表现良好。如果精度不高，立即移到SVC (支持向量机的分类器)。

支持向量机:当样本量>100 K记录时，用SGDClassifier表示支持向量机。

ANN: 安已经进化出了加时赛，他们很强大。可以同时使用人工神经网络和支持向量机对图像进行分类。

更多详细信息可查阅@semanticscholar.org

​

​