- 综合排序
- 最热优先
- 最新优先
- 来自专栏又见苍岚
线性回归 - MLE
cdots \quad y _ { n } ] ^ { T } \quad y \in \mathbb{R} 来预测线性模型中的参数 \bf{\omega}，使得模型尽可能准确输出预测值 线性回归 / MLE
74621编辑于 2022-08-05 - 来自专栏全栈程序员必看
mle与map_normal map
摘要 本文是关于MLE(最大似然估计)与MAP(最大后验概率)的一些自己学习的心得. (本文的重点在于对比MLE和MAP) 正文 1.MLE(最大似然估计) MLE简单的理解可以这样:假设我们手上有一批数据(样本),而且我们假设这些数据(样本)服从某个分布( 模型已知),但是参数未知.这个时候 ,我们希望对这个参数进行估计,而MLE的思想就是找到一个参数值,使得每条样本出现的概率最大! 所以在经过几步的简单推导,我们可以得出MLE和MAP其实区别在于: 首先,我们不要忘了我们的目的,我的们目的是求模型中未知的参数! MLE和MAP的联系在于: 1.两者都是用于模型已知,参数未知下对参数进行估计的方法 更多详细的参考资料: 参考资料1 参考资料2 版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人
46920编辑于 2022-11-16 - 来自专栏产品经理的人工智能学习库
最大似然估计 – Maximum Likelihood Estimate | MLE
查看详情 维基百科版本 在统计学中，最大似然估计（MLE）是一种在给定观察的情况下估计统计模型的参数的方法。在给定观察结果的情况下，MLE尝试找到使似然函数最大化的参数值。 得到的估计称为最大似然估计，其也缩写为MLE。 最大似然法用于广泛的统计分析。例如，假设我们对成年雌性企鹅的高度感兴趣，但无法测量群体中每只企鹅的高度（由于成本或时间的限制）。 假设高度正常分布有一些未知的均值和方差，可以用MLE估计均值和方差，同时只知道总体人口的某些样本的高度。 MLE将通过将均值和方差作为参数并找到特定的参数值来实现这一点，这些参数值使得观察到的结果在给定正态模型的情况下最可能。 从贝叶斯推断的角度来看，MLE是最大后验估计（MAP）的特殊情况，其假设参数的均匀 先验分布。另一方面，从频率论推断的角度来看，MLE是在不使用先验分布的情况下获得参数估计的几种方法之一。
1.5K20发布于 2019-12-18 - 来自专栏DeepHub IMBA
最大似然估计(MLE)入门教程
这时就可以通过计算MLE找到给定数据的最有可能的λ，并将其用作对参数的良好估计。 MLE是用于拟合或估计数据集概率分布的频率法。这是因为MLE从不计算假设的概率，而贝叶斯解会同时使用数据和假设的概率。 可以用MLE做什么 最直观的是给定数据集分布参数MLE，可以继续对数据集应用统计技术，并对数据集的确切分布做出假设。这样可以使统计分析更强大。 因为MLE是它所估计的参数的一致估计 这告诉我们什么？数据集越大，MLE 估计越准确。 MLE 本身的分布。 最后还使用了一个从泊松分布计算 MLE 的示例，并解释了 MLE 的两个重要属性，即一致性和渐近正态性。希望这对任何学习统计和数据科学的人有所帮助！
2K10编辑于 2022-11-11 - 来自专栏数据派THU
最大似然估计(MLE)入门教程
这时就可以通过计算MLE找到给定数据的最有可能的λ，并将其用作对参数的良好估计。 MLE是用于拟合或估计数据集概率分布的频率法。这是因为MLE从不计算假设的概率，而贝叶斯解会同时使用数据和假设的概率。 可以用MLE做什么 最直观的是给定数据集分布参数MLE，可以继续对数据集应用统计技术，并对数据集的确切分布做出假设。这样可以使统计分析更强大。 除了数据集分布的估计参数外，MLE还有两个很有用的重要属性。 1. MLE 是它正在估计的参数的一致估计量。 参数θ的估计是一致的，如果： 为什么会这样呢?因为大数定律。 因为MLE是它所估计的参数的一致估计： 这告诉我们什么？数据集越大，MLE 估计越准确。 2. MLE 是渐近正态的。 最后还使用了一个从泊松分布计算 MLE 的示例，并解释了 MLE 的两个重要属性，即一致性和渐近正态性。希望这对任何学习统计和数据科学的人有所帮助！ 编辑：黄继彦
1.9K30编辑于 2022-09-27 - 来自专栏智能算法
以色列理工暑期学习-MLE、MAP参数估计方法
按照课程顺利来讲的话，这个逻辑对于我个人来讲略微有点逻辑问题，教授先讲解的是贝叶斯方法，然后直接引入MAP，最大后验估计，而在参数估计中引入MLE；对于我们中国学生来讲，应该最大似然的参数估计更为熟悉： MAP与MLE最大区别是MAP中加入了模型参数本身的概率分布，或者说。MLE中认为模型参数本身的概率的是均匀的，即该概率为一个固定值。 但是MAP是直接估计出参数的值，而贝叶斯估计是估计出参数的分布，这就是贝叶斯与MLE与MAP最大的不同。 上图为在硬币实验中，MLE、MAP与贝叶斯估计的参数值，可以看出越来越精确接近0.5。 继而是经验贝叶斯，主要是计算出超参数分布： ? 全贝叶斯是将所有参数都是服从一定的分布： ?
1K70发布于 2018-04-02 - 来自专栏JNing的专栏
OJ术语: AC、WA、TLE、OLE、MLE、RE、PE、CE
在线判题系统 AC Accepted 通过 WA Wrong Answer 答案错误 TLE Time Limit Exceed 超时 OLE Output Limit Exceed 超过输出限制 MLE
4.5K10发布于 2018-09-28 - 来自专栏生物信息学、python、R、linux
最大似然估计（MLE）原理及计算方法
1）有两堆球，其中A堆有99个白球和1个黑球，B堆有99个黑球和1个白球。假如随便摸一个球，发现是黑球，那么这个球更有可能来自于哪一堆？
9K30发布于 2020-06-05 - 来自专栏信数据得永生
【番外】线性回归和逻辑回归的 MLE 视角
可以看出，在线性回归的场景下，MLE 等价于最小二乘，在逻辑回归的场景下，MLE 等价于交叉熵。但不一定 MLE 在所有模型中都是这样。
64420发布于 2019-02-15 - 来自专栏全栈程序员必看
OJ术语: AC、WA、TLE、OLE、MLE、RE、PE、CE「建议收藏」
在线判题系统 AC Accepted 通过 WA Wrong Answer 答案错误 TLE Time Limit Exceed 超时 OLE Output Limit Exceed 超过输出限制 MLE
2K10编辑于 2022-07-02 - 来自专栏又见苍岚
极大似然估计（MLE）和最大后验概率估计（MAP）
本文介绍极大似然估计（MLE，Maximum Likelihood Estimation）和最大后验概率估计（MAP，Maximum A Posteriori Estimation）。 简介 MLE与MAP分别对应两种学派的参数估计方法，频率派和贝叶斯派。 频率派认为参数是未知的常量，而样本是随机变量，可以通过样本的概率分布估计参数的值。 MLE认为每个事件的发生都不是偶然的，存在即合理，为了解释这些事件的出现，决定系统的参数必须使得这些事件的出现更加合理才更好。因此MLE是求使得事件发生的概率最大化的情况下的参数。 可以看出，MLE的参数估计值仅取决于样本，在数据量大的情况下还算靠谱，但是数据量小或者数据不靠谱的时候，结果也不靠谱。 不同点：MAP加入先验假设p(\theta)，相当于在MLE的基础上增加一个先验项，即logp(\theta)。
1.3K10编辑于 2022-08-05 - 来自专栏机器学习初学者精选文章
【机器学习基础】深入理解极大似然估计(MLE) 1: 引入问题
在众多阐述 MLE 的文章或者课程中，总体来说都比较抽象，注重公式推导。 这个方式确实是正确的，后面的文章我们也会证明它是MLE在伯努利分布参数估计时的计算方法。 极大似然估计(MLE) 为我们定义了合理的 ，和朴素的想法类似，但是这次用单个结果的似然函数连乘而非连加 我们再来看一下当 时 在 空间的取值情况，果然，MLE 能在 0.7 Pytorch MLE 实践 就让我们来实践一下，通过 pytorch 梯度下降来找到极值点。 MLE 估计的偏差和方差 我们已经知道 MLE 方法可以通过观察数据推测出最有可能的 ，由于观察数据 是伯努利过程产生的，具有随机性，那么 可以看成是 的随机变量。
89620发布于 2021-04-16 - 来自专栏计算机工具
概率和统计，最大似然估计（MLE），大后验概率估计（MAP）
显然，本文解释的MLE和MAP都是统计领域的问题。它们都是用来推测参数的方法。为什么会存在着两种不同方法呢？这需要理解贝叶斯思想。我们来看看贝叶斯公式。 2、贝叶斯公式到底在说什么？ 4、最大似然估计（MLE） 假设有一个造币厂生产某种硬币，现在我们拿到了一枚这种硬币，想试试这硬币是不是均匀的。这是一个统计问题，回想一下，解决统计问题需要什么？数据！ 计算过程示例：将 θ 的概率分布假设为均值为0.5，方差为1的正态分布 MLE VS MAP 最大似然函数（MLE）和最大后验概率估计（MAP）是两种完全不同的估计方法，最大似然函数属于频率派统计（认为存在唯一真值
57110编辑于 2024-12-14 最大似然估计（MLE）：从一袋糖果看懂AI的“学习逻辑
答案就藏在一个叫最大似然估计（MaximumLikelihoodEstimation，简称MLE）的方法里。 今天，我们就用这袋糖果，一步步搞懂MLE到底是什么，以及它为什么是AI模型训练的“底层逻辑”。第一步：我们到底在“估计”什么？ ❓常见疑问快答Q：MLE就是把样本比例当答案吗？A：在这个简单例子中，数值上确实等于样本比例（7/10）。但概念不同：样本比例是数据本身，MLE是对未知参数的推断。 Q：MLE会过拟合吗？A：会！如果模型太复杂而数据太少，MLE可能把噪声当规律。所以实际训练中会加“正则化”（相当于引入先验知识），让它更稳健。 最后总结最大似然估计（MLE）：在未知世界中，选择最能解释已有数据的那个假设。
37410编辑于 2025-12-10- 来自专栏数据科学与人工智能
【数据挖掘】主题模型的参数估计-最大似然估计（MLE）、MAP及贝叶斯估计
本文主要介绍文本分析的三类参数估计方法-最大似然估计MLE、最大后验概率估计MAP及贝叶斯估计。 1、最大似然估计MLE 首先回顾一下贝叶斯公式 这个公式也称为逆概率公式，可以将后验概率转化为基于似然函数和先验概率的计算表达式，即 最大似然估计就是要用似然函数取到最大值时的参数值作为估计值，似然函数可以写做 注意此时第二项因子在 上的积分不再等于1，这就是和MLE及MAP很大的不同点。 我们仍然以扔硬币的伯努利实验为例来说明。 可以看到此时求出的p的期望比MLE和MAP得到的估计值都小，更加接近0.5。 4、总结 综上所述我们可以可视化MLE,MAP和贝叶斯估计对参数的估计结果如下 个人理解是，从MLE到MAP再到贝叶斯估计，对参数的表示越来越精确，得到的参数估计结果也越来越接近0.5这个先验概率，越来越能够反映基于样本的真实参数情况
1.7K70发布于 2018-02-27 - 来自专栏量子位
聊一聊机器学习中的MLE和MAP
在这篇文章中，他探讨了机器学习中的MLE和MAP两大学派的争论。 现代机器学习的终极问题都会转化为解目标函数的优化问题，MLE和MAP是生成这个函数的很基本的思想，因此我们对二者的认知是非常重要的。这次就和大家认真聊一聊MLE和MAP这两种estimator。 MLE - 最大似然估计 Maximum Likelihood Estimation, MLE是频率学派常用的估计方法！ 我们经常在不经意间使用MLE，例如 上文中关于频率学派求硬币概率的例子，其方法其实本质是由优化NLL得出。 至此，一件神奇的事情发生了 — 在MAP中使用一个高斯分布的先验等价于在MLE中采用L2的regularizaton !
2.4K40发布于 2018-03-22 - 来自专栏往期博文
【人工智能那些事】3、极大似然估计(MLE)和最大后验估计(MAP)
本题的详解可参考我在B站发布的视频 Link：极大似然估计/最大后验估计—通过抛硬币例子理解
41620编辑于 2022-06-14 - 来自专栏新智元
上交AI智能体炼成「Kaggle特级大师」，登顶OpenAI MLE-bench
就在刚刚，一支来自中国高校的团队成功刷榜了OpenAI发布的权威基准测试MLE-bench！ 这一次，荣耀属于上海交通大学人工智能学院Agents团队。 MLE-bench是衡量AI在机器学习工程（MLE）中表现的权威基准。 MLE-bench实测 ML-Master位居榜首 ML-Master在OpenAI发布的MLE-bench基准上进行了全面评测。 MLE-bench是OpenAI于2024年10月推出的类人机器学习能力评测基准，旨在衡量大模型是否具备像人类AI工程师一样独立完成项目的能力。 ML-Master在MLE-bench上实现了以下突破： ✅顶级性能：29.3%平均奖牌率，位居MLE-bench榜首 ✅广泛覆盖：93.3%任务提交有效解，44.9%任务超半数人类参赛者 ✅超高效率：
28910编辑于 2025-07-02 - 来自专栏机器之心
行业现状令人失望，工作之后我又回到UC伯克利读博了
Task MLE 可能会告诉你模型上次重新训练的时间、评估结果等。 Task MLE 的工作太繁琐了。数据科学家对模型进行原型设计并提出功能创意，Task MLE 则需要「生产」这些创意。 第二种 MLE 是 Platform MLE，他们负责帮助 Task MLE 自动化其繁琐的工作部分。 Platform MLE 和 Task MLE 的主要区别包括 Platform MLE 负责 pipeline 功能的创建，Task MLE 负责 pipeline 使用功能； Platform MLE 负责模型训练框架，Task MLE 负责编写模型架构的配置文件和重新训练； Platform MLE 负责触发 ML 性能下降警报，Task MLE 对警报采取行动。 现在我已经有了更多的 Platform MLE 经验，Platform MLE 拥有数据管理器，Task MLE 拥有应用程序或 ML pipelines 的下游部分。
84910编辑于 2022-07-19 - 来自专栏机器之心
Petuum提出序列生成学习算法通用框架
最大似然估计（MLE） 最大似然估计是训练序列生成模型最常用的方法。MLE 旨在寻找最大化数据对数似然的最优参数值： ? 奖励增强最大似然（RAML） RAML 最初用于将特定任务的 reward（task metric reward）纳入 MLE 训练，该方法相对于原版 MLE 有很大的性能提升。 如果我们将 e(y|y*) 中的任务奖励 R 换成 MLE 的 δ 奖励，则 RAML 目标函数等同于原版 MLE 目标函数，即： ? 数据加噪 向训练数据添加噪声是常用的正则化方法。 可见上式精确地还原了 MLE 的目标函数。 也就是说，MLE 可以看做带有 δ 奖励及上述权重值的策略优化算法的一个实例。 奖励增强最大似然（RAML） 如果用 MLE δ 奖励取代 e(y|y*) 中的任务奖励 R，则 RAML 目标函数就将等同于原版 MLE 目标函数。
68930发布于 2019-04-30
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号