统计术语：“算法”是“模型”的同义词吗？

Question

我有个术语问题。在统计学中，“算法”是“模型”的同义词吗？例如，当我拟合一个带有变量的广义线性模型，并为特定目的调整模型参数时，我是否可以报告我“开发了一个算法”，或者这是一个错误的陈述？如果是的话，我所做的最好的描述是什么？开发了模型/安装了模型/建立了模型.？

Answer 1

在统计术语中，算法和模型是不同的。考虑以下线性回归模型:y=a+b+ epsilon

• y:因变量，
• a:截距，
• b:斜率系数，
• x：(单变量)解释变量，
• epsilon:误差项，假设正态分布，平均零和标准差σ。H 210F 211

这是一个统计模型，因为它指定了我们假设数据是如何生成的(注意:我们可能错了，并且使用了错误的模型)。这个模型也是一个参数模型，因为除了三个参数(a，b，和σ)，我们知道数据的全部分布。

一旦我们开始寻找好的参数值，算法部分就会开始。即，我们对参数的某些函数(如最大似然、最小二乘等)进行了优化。这里我们需要算法。对于一般的最小二乘(=上述线性回归模型的极大似然)，求解简单，只需一些线性代数。然而，更复杂的模型很容易需要复杂的算法实现。四个例子：

当似然函数需要优化时，numerically.

• Various梯度下降算法训练神经networks.

• The梯度下降算法，计算LASSO estimator.

• The坐标下降算法，计算LASSO估计量。

最后两个例子也表明，不同的算法可以用于计算同一模型的参数估计(例如，我们使用了高维线性回归的LASSO估计)。

最后，给出了拟合模型。这是在将未知参数替换为基于数据确定的参数值之后的模型规范。