如何为k-NN找到k的最佳值？

Question

我有4个不同的数据集，每个数据集包含属于两个类中的一个的二维样本:1或2。每个样本的类标签(1或2)位于最后一列。第一列和第二列包含代表样本的2D点的坐标。我的任务是

1. 对于k-NN，找出k的最优值，并与使用Scikit的1-NN进行比较。

我是机器学习和巨蟒的新手。请让我知道如何找到最好的k，并根据哪一个度量，我们必须选择最佳k。

Answer 1

注意，在您的例子中，k是一个超参数。要对其进行调优，您需要将数据集拆分为训练和测试桶，并对k值范围内的每个测试元素进行多次分类，例如从1到20。在每种情况下都要计算精度(或精确/召回)。

然后为每个k绘制精度值，并选择足够小的k，这将给您一个“良好”的精度。通常，人们查看图表的斜率并选择最小的k，例如以前的值k-1会显着地降低精度。

注意，值k将高度依赖于您的数据。例如，在下面的图表(Credit：https://kevinzakka.github.io/2016/07/13/k-nearest-neighbor/)中，k的一个很好的选择是8，因为它会导致最低的错误分类错误。

​

​

这个链接也可能有帮助：选择