- 综合排序
- 最热优先
- 最新优先
- 来自专栏全栈程序员必看
回归分析数学建模_matlab 回归分析
一元线性回归 变量之间的关系大致可分为两大类: 确定性的关系:可以用精确的函数关系来表达。例如矩形面积S与边长a,b的关系。 回归分析就是研究相关关系的一种重要的数理统计方法. 一元正态线性回归模型 只有两个变量的回归分析, 称为一元回归分析; 超过两个变量时称为多元回归分析 变量之间成线性关系时, 称为线性回归; 变量间不具有线性关系时, 称为非线性回归.
71120编辑于 2022-11-15 - 来自专栏Michael阿明学习之路
6. 逻辑回归
本文为 scikit-learn机器学习（第2版）学习笔记 逻辑回归常用于分类任务 1. 逻辑回归二分类 《统计学习方法》逻辑斯谛回归模型（ Logistic Regression，LR） 定义：设 XXX 是连续随机变量， XXX 服从 logistic 分布是指 XXX 具有下列分布函数和密度函数 在逻辑回归中，当预测概率 >= 阈值，预测为正类，否则预测为负类 2. 垃圾邮件过滤 从信息中提取 TF-IDF 特征，并使用逻辑回归进行分类 import pandas as pd data = pd.read_csv("SMSSpamCollection", delimiter
94320发布于 2020-07-13 - 来自专栏小明的博客
回归分析
这种方法叫回归分析（确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法）。 自变量的数量：一元回归和多元回归分析。 线性关系：线性回归分析和非线性回归分析。 一元线性回归：只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示。 多重线性回归分析：如果回归分析中包括两个或两个以上的自变量，且自变量之间存在线性相关。 常用方法 线性回归 线性回归模型通常是处理因变量是连续变量的问题。最小二乘法是用于拟合回归线最常用的方法。对于观测数据，它通过最小化每个数据点到线的垂直偏差平方和来计算最佳拟合线。 通常，多项式回归的方法是通过增加特征的方法，将高次项变换为1次项，从而将多项式回归问题转化为线性回归问题。 逐步回归(Stepwise Regression) 在处理多个自变量时，可以使用逐步回归。 （一般会通过以自变量或者观测量为横坐标去绘制残差图，对拟合效果进行评价） SST=SSR+SSE 图片 模型评价 回归分析在数据量远大于特征数量时往往能表现出比较优良的效果，但是需要注意的是线性模型对于特征之间的共线性非常敏感
1.2K20编辑于 2022-09-05 - 来自专栏联远智维
回归分析（二）——符号回归
遗传编程解决符号回归问题 符号回归（Symbolic Regression）作为一种一种监督学习方法，试图发现某种隐藏的数学公式，以此利用特征变量预测目标变量。 符号回归的优点就是可以不用依赖先验的知识或者模型来为非线性系统建立符号模型。 符号回归基于进化算法，它的主要目标就是利用进化方法综合出尽可能好的解决用户自定义问题的方法（数学公式，计算机程序，逻辑表达式等）。 用Python gplearn 解决符号回归问题 Python gplearn 工具箱在进行符号回归时函数库中函数有：'add'：加法 'sub'：减法 'mul'：乘法 'div'：除法 'sqrt 附：张统一（19届疲劳断裂会议）解决符号回归方法
4.1K20编辑于 2022-01-20 - 来自专栏算法channel
回归分析简介
在介绍机器学习中回归分析的基本概念，包括什么是回归分析，线性回归，别忘了还有非线性回归，OLS能很好地解决特征间无线性相关性的问题，但是对多重线性回归任务会失真。 2 多元回归 回归分析按照涉及的变量，即机器学习中特征的个数，分为一元回归和多元回归分析，如果预测的特征仅有一个，则为一元回归，否则为多元回归。 3 线性回归 如果自变量和因变量之间是线性关系，则为线性回归分析，否则为非线性回归分析。 如果在回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。不要小看一元线性回归分析，一个问题解决的开始往往都是从一元线性回归。 以上介绍了回归分析的一些基础内容，接下来，我们开始阐述线性回归分析之最小二乘法（OLS）。
1K60发布于 2018-04-02 - 来自专栏祥子的故事
Tensorflow | 回归分析
用tensorflow来做回归分析，基于梯度下降法 这里以一元回归分析为例子来说明如何用tensorflow实现回归分析。 1、产生数据 采用随机的方式来产生。 [ 0.10003368] [ 0.29671374] 80 [ 0.10003368] [ 0.29671374] 90 [ 0.10003368] [ 0.29671374] 画出散点图和回归线 完整的代码见github： https://github.com/zhangdm/machine-learning-summary/tree/master/tensorflow/回归
90832发布于 2019-02-18 - 来自专栏老齐教室
回归分析（3）
注：本文是回归分析专题的第三部分，此专题是对即将于2021年5月出版的《机器学习数学基础》的补充和提升资料。 并且，只要插入的公式多点，在微信的编辑器中就不能保存。所以，发布的文章中，就很少有公式了。 然后用上述数据，利用statsmodels中的·.OLS`得到一元线性回归模型。 从对图示的观察可知，如果用现在所得到的一元线性回归模型作为机器学习模型，对于数据(alpha, beta)而言，并不是一个好模型。 coef 回归系数估计值 std err 回归系数估计值的标准误差 t t检验值。度量统计学上重要程度的量。 P > t P值。 在时间序列分析中通常很重要 Cond. No 多重共线性检验（如果与多个参数拟合，则参数彼此相关） 如此，即可实现统计中的线性回归模型构建。
1.7K20发布于 2021-03-11 - 来自专栏机器学习算法与理论
树回归分析
树回归：可以对复杂和非线性的数据进行建模；适用数值型和标称型数据。 1、 CART：classification and regression trees（分类回归树）。 回归树（连续型）分类树（离散型）： 回归树：假设叶节点是常数值，这种策略认为数据中的复杂关系可以用树结构来概括。 度量数据的一致性：在给定节点时计算数据的混乱度。 用该误差计算准则，去构建数据集上的回归树。 实现choosebestsplit的切分：用最佳方式切分数据集，生成对应的叶节点，即切分后误差最小。
95360发布于 2018-04-10 - 来自专栏CSDN搜“看，未来”
线性回归分析
本文仅用于我自己复习准备期末考之用 1、多元线性回归分析 多元线性回归分析 2、补充 ? ? ? ? 残差分析 残差正态性的频率检验 残差正态性的频率检验是一种很直观的检验方法，其基本思想是将残差落在某范围的频率与正态分布在该范围的概率相比较，通过二者之间偏差大小评估残差的正态性。 残差的正太概率图检验 残差图分析 残差图是指以残差为纵坐标，以任何其他指定的量为横坐标的散点图。
80420发布于 2020-08-26 - 来自专栏神经网络和深度学习
6 逻辑回归(Logistic Regression)
6 逻辑回归(Logistic Regression) 6.1 分类(Classification) 6.2 假设函数表示(Hypothesis Representation) 6.3 决策边界 (Regularized Linear Regression) 7.4 逻辑回归正则化(Regularized Logistic Regression) 6 逻辑回归(Logistic Regression 在未加入偏差项时，线性回归算法给出了品红色的拟合直线，若规定 应用 sigmoid 函数，则逻辑回归模型：hθ(x)=g(θTx)=11+e−θTx 逻辑回归模型中，hθx 的作用是，根据输入 x 以及参数 6.3 决策边界(Decision Boundary) 决策边界的概念，可帮助我们更好地理解逻辑回归模型的拟合原理。 在逻辑回归中，有假设函数 hθx=g(z)=gθTx。 上面讨论了逻辑回归模型中线性拟合的例子，下面则是一个多项式拟合的例子，和线性回归中的情况也是类似的。
1K60发布于 2020-07-02 - 来自专栏优雅R
「R」回归分析
从许多方面来看，回归分析是统计学的核心。它其实是一个广义的概念，通指那些用一个或多个预测变量（也称为自变量或解释变量）来预测响应变量（也成因变量、效标变量或结果变量）。 有统计表明，R中做回归分析的函数已经超过200个（http://cran.r-project.org/doc/contrib/Ricci-refcardregression.pdf）。 例如，log(y) ~ x + z + w 除了lm()，下表列出了一些有用的分析函数，对拟合得到的模型做进一步的处理和分析。 多元线性回归 这个分析稍微复杂些，我们将以基础包中的state.x77数据集为例，用来探索余下章节。比如此处我们想探究一个州的犯罪率和其他因素的关系。 深层次分析 交叉验证 对于OLS回归，通过使得预测误差（残差）平方和最小和对响应变量的解释度（R平方）最大，可以获得模型参数。
2K32发布于 2020-07-03 - 来自专栏YoungGy
R语言_回归分析
R里面已经包含了众多的回归 为了解释OLS模型的参数，数据必须满足以下统计假设： 评估模型的方法 #lm拟合回归模型 #简单线性回归 fit = lm(weight~height,data= residuals(fit))) plot(women$height,women$weight, xlab="hight", ylab="weight") abline(fit) #多项式回归 data=women, spread=FALSE, lty.smooth=2, pcj=19) #多元线性回归 ") fit = lm(Murder~Population+Illiteracy+Income+Frost, data=states) summary(fit) #有交互项的多元线性回归 effects") library(effects) plot(effect("hp:wt",fit,xlevels=list(wt=c(2.2,3.2,4.2))),multiline=TRUE) #回归推断
1.4K20发布于 2019-05-26 - 来自专栏联远智维
回归分析初步（一）
回归：回归（Regression）过程主要研究和解决的问题是识别和分析出隐藏在实验数据中的数学关系。 回归作为科学研究的一种手段，通过获取已有的实验数据，获取某个实验过程的公式或者模型，再应用到实际中去。 我们掌握实验数据自变量和因变量之间的规律，具有部分的先验知识，例如：蠕变过程以及疲劳实验结果处理等方面；（2）我们对实验数据背后深刻的物理含义等先验知识不是很清楚，对于这种情况，张统一院士在19届全国疲劳与断裂学术会议中采用符号回归的方式来解决这一问题 符号回归（SymbolicRegression）的优点就是可以不用依赖先验的知识或者模型来为非线性系统建立符号模型。 符号回归基于进化算法，它的主要目标就是利用进化方法综合出尽可能好的解决用户自定义问题的方法（数学公式，计算机程序，逻辑表达式等）。
73040编辑于 2022-01-20 - 来自专栏张俊红
多元回归分析
总第176篇/张俊红 01.前言 前面我们讲了一元线性回归，没看过的可以先去看看：一元线性回归分析。这一篇我们来讲讲多元线性回归。 一元线性回归就是自变量只有一个x，而多元线性回归就是自变量中有多个x。 多元回归的形式如下： 02.参数估计 多元回归方程中各个参数也是需要估计的，关于为什么要估计，其实我们在一元线性回归里面也讲过。 与一元线性回归不同的是，一元线性回归拟合的是一条线，而多元回归拟合的是一个面。使用的方法也是最小二乘法。 03.拟合程度判断 在多元回归里面拟合程度判断与一元回归也类似，也主要有总平方和、回归平方和、残差平方和这三种。 多元回归里面也有R^2，R^2 = SSR/SST = 1 - SSE/SST。 你还可以看： 聊聊置信度与置信区间 统计学的假设检验 一元线性回归分析 方差分析 多因素方差分析 卡方检验讲解 多重比较法-LSD
1.8K40发布于 2019-11-07 - 来自专栏黄成甲
数据分析之回归分析
第1列的常量、广告费用，分别为回归模型中的常量与自变量X，第2列的B分别为常量a（截距）、回归系数b（斜率），据此可以写出简单线性回归模型：Y=377+14.475X，第5,6列分别是回归系数t校验和相应的显著性 第5,6列分别是偏回归系数t检验和相应的显著性（P值），限制性（P值）同样与显著性水平α进行比较，本例中偏回归系数b1显著性（P值）=0.012<0.05，说明偏回归系数b1具有显著的统计学意义，偏回归系数 然而，在分析和建模中，我们可以选择包含分类变量相互作用的影响； 6）如果因变量的值是定序变量，则称它为序Logistic回归； 7）如果因变量是多类的话，则称它为多元Logistic回归。 6）回归正则化方法（套索，岭和ElasticNet）在高维数据和数据集变量之间存在多重共线性的情况下运行良好。 诊断回归分析结果 为了理解、解释、预测某个问题，我们会进行回归分析。 6.R软件 R语言是统计领域广泛使用的，诞生于1980年左右的S语言的一个分支。 R语言是S语言的一种实现。S语言是由AT&T贝尔实验室开发的一种用来进行数据探索、统计分析、作图的解释型语言。
4.1K51发布于 2018-09-12 - 来自专栏老齐教室
回归分析专题（1）
说明： 回归，是机器学习中的一个重要算法，也是统计学中研究变量关系的一个重要工具。《机器学习数学基础》 中在多处对回归分析有关原理给予了介绍。但是，限于篇幅和内容顺序的限制，书中的介绍专题性还不强。 在这里，决定以专题的形式，对回归分析基于全面介绍，包括理论分析、机器学习中的应用和实现案例等。本文作为专题的第一部分，主要介绍回归的历史研究。 ---- 在统计学中，经常要研究变量之间的关系。 回归分析是研究相关关系的一种数学工具，能够帮助我们从一个变量取得的值去估计另一个变量所取的值。 高尔顿的研究 最早对回归问题进行研究的是英国遗传学家高尔顿爵士（Sir Francis Galton）。 parent_group':[73, 72.5, 71.5, 70.5, 69.5, 68.5, 67.5, 66.5, 65.5, 64.5, 63], "Total":[5, 6, 但，这个结论的前提是已经承认了“回归均值”现象，依据 线性回归的假设而得到结论，并非因果性上的完全解释。
1.1K20发布于 2021-03-11 - 来自专栏往期博文
数学建模暑期集训6：用SPSS对数据进行多元线性回归分析
在本专栏的第六篇数学建模学习笔记（六）多元回归分析算法（matlab）博文中，记录了如何用matlab进行多元回归分析。本篇则将使用spss软件达到同样的效果，且使用起来比matlab更为方便。 1.数据源 为了简化分析，这里采用了三个变量：树干直径、树干高度、树干体积，树干体积和树干直径、高度有关。 2.散点图大致判断 在多元线性回归分析之前，有必要先对数据是否具有线性做个直观判断。 （否则，一眼看出来不是线性就没必要线性回归了）。散点图是比较方便的办法。 图中可以看到，体积和直径线性关系很明显，和高度也有一定关系，因此继续进行线性回归分析。 3.回归参数设置 分析->回归->线性 进入设置 勾选需要的参数： 4.查看统计量 模型汇总表： R方代表线性拟合程度，越接近1越好； 德宾-沃森指数表示因变量之间的独立性 ，越接近2越好； F越大，说明回归方程越显著； Sig即显著性，sig<0.05,则认为显著； VIF（方差膨胀因子） 两个因变量共线性存在，即一个量几乎可由另一个量来近似表示
3.4K20编辑于 2022-06-14 - 来自专栏图像处理与模式识别研究所
SPSS实现线性回归分析和非线性回归分析的图表。
1、点击[文件] 2、点击[新建] 3、点击[数据] 4、点击[文本] 5、点击[图形] 6、点击[旧对话框] 7、点击[散点/点状] 8、点击[简单分布] 9、点击[定义] 10 、点击[->] 11、点击[VAR00003] 12、点击[->] 13、点击[确定] 14、点击[分析] 15、点击[回归] 16、点击[线性] 17、点击[->] 18、点击[VAR00003
1.6K20编辑于 2022-05-28 - 来自专栏WD学习记录
机器学习 学习笔记（6） Logistic 回归
线性模型可以进行回归学习，但是若要做分类任务该怎么办，只需要找一个单调可微函数将分类任务的真实标记y与线性回归的预测值联系起来。 对数几率函数（logistic function）（逻辑斯蒂回归）： ? 是用线性回归模型的预测结果去逼近真实标记的对数几率，因此，其对应模型称为对数几率回归。需要注意的是名字带有回归，实际上式分类方法。 上述介绍的是二项分类模型，用于二类分类，可以将其推广为多项逻辑斯蒂回归模型，用于多类分类，假设离散型随机变量Y的取值集合是{1，2，... ，K}，那么多项逻辑斯蒂回归模型是： ? ? ， ? 参考： 《机器学习》 《统计学习方法》 《机器学习实战》 逻辑回归(logistic regression)的本质——极大似然估计
76120发布于 2018-09-03 - 来自专栏优雅R
「R」回归和相关分析
问题 你想要做线性回归和/或相关分析。 4.3076433 -1.31283495 #> 4 1.780628 0.2050367 -0.28479448 #> 5 11.537348 -29.7670502 -1.27303976 #> 6 10.1458220 -0.09459239 相关 # 相关系数 cor(dat$x, dat$y) #> [1] -0.7695378 相关矩阵（多个变量） 我们也可以对多个配对变量进行相关分析操作 线性回归，当datx是预测变量时，daty为响应变量。 （多元线性回归） 使用y作为线性回归的响应变量，x和z作为预测变量。
1K10发布于 2020-07-06
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号