对于Logistic回归，为什么选择特定的物流功能而不是其他物流功能呢？

Question

logistic回归的logistic函数为：\frac{e^{B_{0} + B_{1}x}}{1 + e^{B_{0} + B_{1}x}}。为什么要用这个？

Answer 1

我们需要一些链接函数来将一些实际值的输出u \in \mathbb{R}映射到[0,1]，这样我们就可以将其解释为概率。显然，有许多这样的功能，但标准逻辑(有时称为乙状结肠)是简单和方便的，因为其单位的规模是对数-赔率，这是容易理解的。它也是对称的。

在经济学中，我们可能认为u代表潜在的效用，

u = f(x;\beta) + \epsilon

其中f(x;\beta)是一些观察到的协变量模型(例如f(x) = \beta'x) )。

通常假设\epsilon是标准的logistic分布，因为它比正态分布更“健壮”，因为它有更胖的尾部。然后我们就得到了标准的sigmoid链接函数和logit模型。如果我们假设了\epsilon的其他分布，例如法线分布，那么我们就会以正态CDF作为链接和probit模型。如果我们认为它是不对称的，并且假设\epsilon是Gompertz，那么我们就得到了极值模型。

不同的领域使用不同类型的logistic回归对问题进行建模。例如，在流行病学中，他们可能使用Richards增长(广义logistic函数)，使感染率开始较小，但指数增长。

在计算机科学/机器学习中，对于预测问题，我们通常对u (例如神经网络的输出)没有解释，所以我们通常只是为了方便而使用标准的逻辑激活。

Answer 2

广义线性模型的思想是，一旦将链接函数(通常称为g )应用于期望，以某些特征为条件(或参数化)的期望值与特征是线性相关的。数学方面：

g(\mathbb E[Y\vert X])=X\beta

在logistic回归中，我们使用g=\log\left(\dfrac{p}{1-p}\right)。反演g求解p，给出了用于logistic回归的激活函数。

Answer 3

您可以从逻辑分布的潜在变量假设导出逻辑回归模型(请参阅https://sciprincess.wordpress.com/2019/03/01/what-is-logistic-in-the-logistic-regression/ )。