回归:什么定义线性和非线性模型或函数？

Question

当输入和输出变量之间存在线性关系时，使用线性回归。这种线性关系是否意味着对变量或参数没有幂？在m的理解中，线性是指相对于参数(无幂)的线性。如果错了，请纠正我。基本上，我在看本教程时有点困惑：https://www.gaussianwaves.com/2013/03/how-to-estimate-unknown-parameters-using-ordinary-least-squares-ols/

这里用线性回归来拟合直线，但如果函数是三次或更高次多项式(对变量的幂)，我们还可以使用线性回归吗？在拟合高阶多项式时，我们用正则线性回归来惩罚高阶称变量。基于这些困惑，有谁能帮助澄清以下几点呢？

MAIN问题:为哪一个赏金打开：

1)线性是与变量或参数有关的。我在这里看到了一个类似的问题，“曲线”被认为是“线性”吗？，但是第二个回答说，线性是以权值或其他超参数等参数来表示的，多项式回归是一种特殊的线性回归。因此，如果模型的参数有幂，则该函数是一个非线性函数，因此我们得到了一个非线性模型。对吗？

我已经回答和理解的其他问题

2)高阶多项式属于线性模型还是非线性模型？

3) sigmoid函数不具有任何幂次，通常用于多层感知器的隐层，从而建立MLP非线性机器学习模型。为什么乙状结肠曲线是一个非线性函数？

( 4)是否对线性函数或非线性函数进行检验，即是拟合线性回归模型，还是采用带核支持向量机等非线性模型？

Answer 1

我认为区分线性函数(表示自变量和因变量之间的关系)和线性模型(表示模型参数与结果之间的关系)是有帮助的。

线性模型可以用非线性函数表示.线性回归模型是由参数中的线性函数表示的任何模型。多项式可以这样表示。

同样，非线性回归模型是由参数的非线性组合表示的任何模型。

引用维基百科的话：

虽然多项式回归适合于数据的非线性模型，但作为一个统计估计问题，它是线性的，因为回归函数E(y = x)在从数据中估计的未知参数中是线性的。

将模型用具有输入x和参数向量w的函数D5表示。多项式回归具有f(x,w) = w_0 + w_1*x + w_2*x^2 \ldots形式，由于f(x,a+b) = (a_0+b_0) + (a_1+b_1)*x + (a_2+b_2)*x^2 \ldots = a_0 + a_1*x + a_2*x^2 \ldots + b_0 + b_1*x + b_2*x^2 \ldots = f(x,a) + f(x,b)在参数上是线性的。但是它在输入中不是线性的，因为f(x+y,w) \neq f(x,w)+f(y,w)。

人们经常想到y=f(x)与x之间的关系，而线性回归指的是w中的线性。