学习:支持向量机C的高/低值

Question

我在玩科学游戏-学习。看看用户指南和文档，他们说：

低C使决策曲面光滑，而高C的目标是对所有训练样本进行正确分类。

默认值为1.0，大多数示例都使用该值。我还找到了值C=100。

对于C来说，“低”和“高”是什么意思？

Answer 1

SVM的损失函数由分类误差和边缘误差两部分组成。

现在，C是常量，它自己附加到分类错误上，如下所示：

SVM_Error = C*Classfication Error + Margin Error

因此，C的高值意味着分类误差将大于边缘误差，因此模型将侧重于对所有数据点进行精确分类。相反，如果C值较低，则边际误差将大于分类误差，因此模型将集中为超平面创造更大的裕度。