SVR参数的可能范围是多少？

Question

我在研究回归问题。在调整SVR参数时，得到了以下值c=100、gamma= 10和epsilon =100。我得到了95 %的r-平方。我的问题是，这些参数值的理论范围是什么？

Answer 1

支持向量回归，逆正则化参数C可以从区间[0,\infty)中选择。其中，C=0意味着我们的正则化程度很高，而C\to \infty没有正则化。

参数\varepsilon也来自于区间[0,\infty)。其中，\varepsilon=0强迫回归对不完全位于回归线上的每一个点进行惩罚。然而，\varepsilon > 0允许在回归过程中不将偏差计算为错误的情况下存在一个无差异的差值。

此外，还存在\xi\geq 0和\hat{\xi}\geq 0的松弛变量。如果一个点在冷漠范围内，则为零。如果一个数据点位于无差异裕度的上方和外部，我们将有\xi>0，如果一个数据点位于无差异裕度的下方和外部，则将有\hat{\xi}<0。

当你谈到\gamma时，我想你是指径向基函数的形式参数。如果我们有

\varphi(\boldsymbol{x}_i,\boldsymbol{x}_j|\gamma)=\exp\left[-\gamma||\boldsymbol{x}_i-\boldsymbol{x}_j||^2\right]

然后是\gamma \in (0,\infty) (注意\gamma前面的减号)。对于\gamma \to 0，我们使内核变得更像\varphi \approx 1。如果\gamma \to \infty，我们将得到一个非常尖顶的内核。当\boldsymbol{x}_i\approx \boldsymbol{x}_i和其他地方几乎为零时，它就等于1。

您还应该查看实现这些参数的文档。这些参数可能不会如您所想的那样实现(请参阅\gamma上的注释)。