- 综合排序
- 最热优先
- 最新优先
- 来自专栏生物信息云
R语言数据分析与挖掘(第四章):回归分析(4)——logistic回归
这里我们介绍logistic回归。 logistic回归又称logistic回归分析，是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断，经济预测等领域。 以胃癌病情分析为例，选择两组人群，一组是胃癌组，一组是非胃癌组，两组人群必定具有不同的体征与生活方式等。 然后通过logistic回归分析，可以得到自变量的权重，从而可以大致了解到底哪些因素是胃癌的危险因素。同时根据该权值可以根据危险因素预测一个人患癌症的可能性。 下面基于前面介绍的AIC准则（R语言数据分析与挖掘(第四章):回归分析(3)——变量的选择）进行逐步回归： > log2<-step(log1) Start: AIC=21.9 Species ~ 'tpr','fpr') > plot(perf,col=2,type="l",lwd=2) > f=function(x){ y=x;return(y)} > curve(f(x),0,1,col=4,
14.3K42发布于 2019-12-13 - 来自专栏全栈程序员必看
回归分析数学建模_matlab 回归分析
一元线性回归 变量之间的关系大致可分为两大类: 确定性的关系:可以用精确的函数关系来表达。例如矩形面积S与边长a,b的关系。 回归分析就是研究相关关系的一种重要的数理统计方法. 一元正态线性回归模型 只有两个变量的回归分析, 称为一元回归分析; 超过两个变量时称为多元回归分析 变量之间成线性关系时, 称为线性回归; 变量间不具有线性关系时, 称为非线性回归.
71120编辑于 2022-11-15 - 来自专栏机器学习原理
机器学习(4)——逻辑回归Logistic回归softmax回归
前言：这里是分类问题，之所以放到线性回归的下面介绍，是因为逻辑回归的步骤几乎是和前面一样的，写出目标函数，找到损失函数，求最小值，求解参数，建立模型，模型评估。 分类算法，概率模型，返回的是属于这类模型的概率多大，交叉对数损失函数，其微分方程和梯度下降一样 softmax分类，解决数据不平均的问题，提高准确率 Logistic回归 sogmid函数 ? softmax回归 解决多分类问题 写出概率函数： ? 注：为什么用指数函数，为了表示数据的微小变动引起的概率的指数级增大， 写出损失函数 ?
1.9K80发布于 2018-04-27 - 来自专栏小明的博客
回归分析
这种方法叫回归分析（确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法）。 自变量的数量：一元回归和多元回归分析。 线性关系：线性回归分析和非线性回归分析。 一元线性回归：只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示。 多重线性回归分析：如果回归分析中包括两个或两个以上的自变量，且自变量之间存在线性相关。 常用方法 线性回归 线性回归模型通常是处理因变量是连续变量的问题。最小二乘法是用于拟合回归线最常用的方法。对于观测数据，它通过最小化每个数据点到线的垂直偏差平方和来计算最佳拟合线。 通常，多项式回归的方法是通过增加特征的方法，将高次项变换为1次项，从而将多项式回归问题转化为线性回归问题。 逐步回归(Stepwise Regression) 在处理多个自变量时，可以使用逐步回归。 （一般会通过以自变量或者观测量为横坐标去绘制残差图，对拟合效果进行评价） SST=SSR+SSE 图片 模型评价 回归分析在数据量远大于特征数量时往往能表现出比较优良的效果，但是需要注意的是线性模型对于特征之间的共线性非常敏感
1.2K20编辑于 2022-09-05 - 来自专栏联远智维
回归分析（二）——符号回归
遗传编程解决符号回归问题 符号回归（Symbolic Regression）作为一种一种监督学习方法，试图发现某种隐藏的数学公式，以此利用特征变量预测目标变量。 符号回归的优点就是可以不用依赖先验的知识或者模型来为非线性系统建立符号模型。 符号回归基于进化算法，它的主要目标就是利用进化方法综合出尽可能好的解决用户自定义问题的方法（数学公式，计算机程序，逻辑表达式等）。 用Python gplearn 解决符号回归问题 Python gplearn 工具箱在进行符号回归时函数库中函数有：'add'：加法 'sub'：减法 'mul'：乘法 'div'：除法 'sqrt 附：张统一（19届疲劳断裂会议）解决符号回归方法
4.1K20编辑于 2022-01-20 - 来自专栏算法channel
回归分析简介
在介绍机器学习中回归分析的基本概念，包括什么是回归分析，线性回归，别忘了还有非线性回归，OLS能很好地解决特征间无线性相关性的问题，但是对多重线性回归任务会失真。 2 多元回归 回归分析按照涉及的变量，即机器学习中特征的个数，分为一元回归和多元回归分析，如果预测的特征仅有一个，则为一元回归，否则为多元回归。 3 线性回归 如果自变量和因变量之间是线性关系，则为线性回归分析，否则为非线性回归分析。 如果在回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。不要小看一元线性回归分析，一个问题解决的开始往往都是从一元线性回归。 4 多重线性回归 如果回归分析中包括两个或两个以上的自变量，且自变量之间存在线性相关性，此时称为多重线性回归分析。
1K60发布于 2018-04-02 - 来自专栏祥子的故事
Tensorflow | 回归分析
用tensorflow来做回归分析，基于梯度下降法 这里以一元回归分析为例子来说明如何用tensorflow实现回归分析。 1、产生数据 采用随机的方式来产生。 [ 0.10003368] [ 0.29671374] 80 [ 0.10003368] [ 0.29671374] 90 [ 0.10003368] [ 0.29671374] 画出散点图和回归线 完整的代码见github： https://github.com/zhangdm/machine-learning-summary/tree/master/tensorflow/回归
90832发布于 2019-02-18 - 来自专栏老齐教室
回归分析（3）
注：本文是回归分析专题的第三部分，此专题是对即将于2021年5月出版的《机器学习数学基础》的补充和提升资料。 并且，只要插入的公式多点，在微信的编辑器中就不能保存。所以，发布的文章中，就很少有公式了。 然后用上述数据，利用statsmodels中的·.OLS`得到一元线性回归模型。 从对图示的观察可知，如果用现在所得到的一元线性回归模型作为机器学习模型，对于数据(alpha, beta)而言，并不是一个好模型。 coef 回归系数估计值 std err 回归系数估计值的标准误差 t t检验值。度量统计学上重要程度的量。 P > t P值。 在时间序列分析中通常很重要 Cond. No 多重共线性检验（如果与多个参数拟合，则参数彼此相关） 如此，即可实现统计中的线性回归模型构建。
1.7K20发布于 2021-03-11 - 来自专栏机器学习算法与理论
树回归分析
树回归：可以对复杂和非线性的数据进行建模；适用数值型和标称型数据。 1、 CART：classification and regression trees（分类回归树）。 回归树（连续型）分类树（离散型）： 回归树：假设叶节点是常数值，这种策略认为数据中的复杂关系可以用树结构来概括。 度量数据的一致性：在给定节点时计算数据的混乱度。 用该误差计算准则，去构建数据集上的回归树。 实现choosebestsplit的切分：用最佳方式切分数据集，生成对应的叶节点，即切分后误差最小。
95360发布于 2018-04-10 - 来自专栏CSDN搜“看，未来”
线性回归分析
本文仅用于我自己复习准备期末考之用 1、多元线性回归分析 多元线性回归分析 2、补充 ? ? ? ? 残差分析 残差正态性的频率检验 残差正态性的频率检验是一种很直观的检验方法，其基本思想是将残差落在某范围的频率与正态分布在该范围的概率相比较，通过二者之间偏差大小评估残差的正态性。 残差的正太概率图检验 残差图分析 残差图是指以残差为纵坐标，以任何其他指定的量为横坐标的散点图。
80420发布于 2020-08-26 - 来自专栏优雅R
「R」回归分析
从许多方面来看，回归分析是统计学的核心。它其实是一个广义的概念，通指那些用一个或多个预测变量（也称为自变量或解释变量）来预测响应变量（也成因变量、效标变量或结果变量）。 有统计表明，R中做回归分析的函数已经超过200个（http://cran.r-project.org/doc/contrib/Ricci-refcardregression.pdf）。 例如，log(y) ~ x + z + w 除了lm()，下表列出了一些有用的分析函数，对拟合得到的模型做进一步的处理和分析。 多元线性回归 这个分析稍微复杂些，我们将以基础包中的state.x77数据集为例，用来探索余下章节。比如此处我们想探究一个州的犯罪率和其他因素的关系。 深层次分析 交叉验证 对于OLS回归，通过使得预测误差（残差）平方和最小和对响应变量的解释度（R平方）最大，可以获得模型参数。
2K32发布于 2020-07-03 - 来自专栏AI机器学习与深度学习算法
学习回归 1-4 多项式回归
多项式回归 前面对于已知的数据点，我们一直使用一次函数来进行拟合，一次函数的图形为一条直线。
62810编辑于 2022-11-08 - 来自专栏YoungGy
R语言_回归分析
R里面已经包含了众多的回归 为了解释OLS模型的参数，数据必须满足以下统计假设： 评估模型的方法 #lm拟合回归模型 #简单线性回归 fit = lm(weight~height,data= residuals(fit))) plot(women$height,women$weight, xlab="hight", ylab="weight") abline(fit) #多项式回归 data=women, spread=FALSE, lty.smooth=2, pcj=19) #多元线性回归 identity(1:n,hatvalues(fit),names(hatvalues(fit))) } hat.plot(fit) #强影响点,对模型参数估计值影响有些比例失衡的点 cutoff <- 4/ (nrow(states)-length(fit$coefficients)-2) plot(fit,which=4,cook.levels = cutoff) abline(h=cutoff,lty=
1.4K20发布于 2019-05-26 - 来自专栏联远智维
回归分析初步（一）
回归：回归（Regression）过程主要研究和解决的问题是识别和分析出隐藏在实验数据中的数学关系。 回归作为科学研究的一种手段，通过获取已有的实验数据，获取某个实验过程的公式或者模型，再应用到实际中去。 符号回归（SymbolicRegression）的优点就是可以不用依赖先验的知识或者模型来为非线性系统建立符号模型。 符号回归基于进化算法，它的主要目标就是利用进化方法综合出尽可能好的解决用户自定义问题的方法（数学公式，计算机程序，逻辑表达式等）。 常用的编码方式有：（1）二进制编码；（2）格雷码；（3）实数编码；（4）符号编码。 目标函数和适应度函数的关系：目标函数就是你希望得到的优化结果，比如函数最大值或者最小值。
73040编辑于 2022-01-20 - 来自专栏张俊红
多元回归分析
总第176篇/张俊红 01.前言 前面我们讲了一元线性回归，没看过的可以先去看看：一元线性回归分析。这一篇我们来讲讲多元线性回归。 一元线性回归就是自变量只有一个x，而多元线性回归就是自变量中有多个x。 多元回归的形式如下： 02.参数估计 多元回归方程中各个参数也是需要估计的，关于为什么要估计，其实我们在一元线性回归里面也讲过。 与一元线性回归不同的是，一元线性回归拟合的是一条线，而多元回归拟合的是一个面。使用的方法也是最小二乘法。 03.拟合程度判断 在多元回归里面拟合程度判断与一元回归也类似，也主要有总平方和、回归平方和、残差平方和这三种。 多元回归里面也有R^2，R^2 = SSR/SST = 1 - SSE/SST。 你还可以看： 聊聊置信度与置信区间 统计学的假设检验 一元线性回归分析 方差分析 多因素方差分析 卡方检验讲解 多重比较法-LSD
1.8K40发布于 2019-11-07 - 来自专栏黄成甲
数据分析之回归分析
（4）对回归模型进行检验 回归模型可能不是一次即可达到预期的，通过对整个模型及各个参数的统计显著性检验，逐步优化和最终确立回归模型。 线性回归模型汇总表 多重线性回归模型的拟合效果主要看第4列，调整后R方，它主要用于衡量在多重线性回归模型建立过程中加入其它自变量后模型拟合优度的变化。 回归分析的作用主要有以下几点： 1）挑选与因变量相关的自变量； 2）描述因变量与自变量之间的关系强度； 3）生成模型，通过自变量来预测因变量； 4）根据模型，通过因变量，来控制自变量。 4.模型是否出现了倾向性 我们常说，不要戴着“有色眼镜”看人。同样，回归分析模型中，也不要带有“成见”，不能具有倾向性，否则，这不是个客观合理的模型。 4）统计分析 统计分析是统计软件的核心。统计分析方法的计算机程序的数量和种类决定了数据处理的深度。有些软件，如SAS，BMDP( biomedical computer programs)等。
4.1K51发布于 2018-09-12 - 来自专栏老齐教室
回归分析专题（1）
说明： 回归，是机器学习中的一个重要算法，也是统计学中研究变量关系的一个重要工具。《机器学习数学基础》 中在多处对回归分析有关原理给予了介绍。但是，限于篇幅和内容顺序的限制，书中的介绍专题性还不强。 在这里，决定以专题的形式，对回归分析基于全面介绍，包括理论分析、机器学习中的应用和实现案例等。本文作为专题的第一部分，主要介绍回归的历史研究。 ---- 在统计学中，经常要研究变量之间的关系。 回归分析是研究相关关系的一种数学工具，能够帮助我们从一个变量取得的值去估计另一个变量所取的值。 高尔顿的研究 最早对回归问题进行研究的是英国遗传学家高尔顿爵士（Sir Francis Galton）。 但，这个结论的前提是已经承认了“回归均值”现象，依据 线性回归的假设而得到结论，并非因果性上的完全解释。 revolution in our scientific ideas [that] has modified our philosophy of science and even of life itself.” [4]
1.1K20发布于 2021-03-11 - 来自专栏图像处理与模式识别研究所
SPSS实现线性回归分析和非线性回归分析的图表。
1、点击[文件] 2、点击[新建] 3、点击[数据] 4、点击[文本] 5、点击[图形] 6、点击[旧对话框] 7、点击[散点/点状] 8、点击[简单分布] 9、点击[定义] 10 、点击[->] 11、点击[VAR00003] 12、点击[->] 13、点击[确定] 14、点击[分析] 15、点击[回归] 16、点击[线性] 17、点击[->] 18、点击[VAR00003
1.6K20编辑于 2022-05-28 - 来自专栏若城技术专栏
用4种回归方法绘制预测结果图表：向量回归、随机森林回归、线性回归、K-最近邻回归
（支持向量回归、随机森林回归、线性回归和K-最近邻回归），并使用fit()函数基于训练集数据对这些模型进行训练。 ') plt.plot(rf_pred, label='随机森林回归') plt.plot(knn_pred, label='K-最近邻回归') plt.plot(lr_pred, label='线性回归 , fontproperties=font) plt.show() # 划分数据集 train = df.iloc[:-10, :] test = df.iloc[-10:, :] # 支持向量回归 'poly', C=100, gamma='auto', degree=3, epsilon=.1, coef0=1) # svr.fit(X_train, y_train) # # # # 随机森林回归 ') plt.plot(rf_pred, label='随机森林回归') plt.plot(lr_pred, label='线性回归') plt.plot(knn_pred, label='K-最近邻回归
88510编辑于 2024-02-29 - 来自专栏优雅R
「R」回归和相关分析
问题 你想要做线性回归和/或相关分析。 增加（大的干扰噪声） # Z缓慢增加 # 构建Y，它与X变量负相关，与X*Z变量正相关 set.seed(955) xvar <- 1:20 + rnorm(20,sd=3) zvar <- 1:20/4 10.1458220 -0.09459239 相关 # 相关系数 cor(dat$x, dat$y) #> [1] -0.7695378 相关矩阵（多个变量） 我们也可以对多个配对变量进行相关分析操作 线性回归，当datx是预测变量时，daty为响应变量。 （多元线性回归） 使用y作为线性回归的响应变量，x和z作为预测变量。
1K10发布于 2020-07-06
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号