首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏paddle深度学习

    paddle深度学习11 线性回归

    线性回归是一项经典的统计学习方法,广泛应用于预测连续值的问题。它通过拟合输入特征与输出标签之间的线性关系,来建立一个简单的预测模型。 线性回归的核心思想是找到一条直线(或超平面),使得这条直线能够尽可能地拟合训练数据中的样本点。下面,以线性回归为例,详细介绍如何使用PaddlePaddle进行模型定义、训练和评估。 This function will be removed in tqdm")#损失函数设置为MSE(均方差损失)criterion = paddle.nn.loss.MSELoss()#机器学习模型使用线性模型 导入tqdm进度条工具过滤tqdm调用中可能出现的警告信息paddle.nn.loss.MSEloss()定义损失函数为均方根损失model=paddle.nn.Linear(1,1)模型直接定义为一个线性层 model.train表示将模型切换为训练模式【开始训练】如果要得到较好的模型性能,使用一个数据集要训练很多遍,我们成为轮次(Epoch)比如下面就训练了12个轮次调用了训练函数train()【训练结束】因为线性模型参数较少

    46510编辑于 2025-01-15
  • 来自专栏机器学习原理

    机器学习(11)——非线性SVM

    软间隔 线性可分SVM中要求数据必须是线性可分的,才可以找到分类的超平面,但是有的时候线性数据集中存在少量的异常点,由于这些异常点导致了数据集不能够线性划分;直白来讲就是:正常数据本身是线性可分的,但是由于存在异常点数据 ,导致数据集不能够线性可分。 不管是线性可分SⅥM还是加入惩罚系数后的软间隔线性可分SⅥM其实都要求数据本身是线性可分的,对于完全不可以线性可分的数据,这两种算法模型就没法解决这个问题了。 也就是说对于二维空间中不是线性可分的数据,将其映射到高维空间中后,变成了线性可分的数据。 例如:两维线性模型: ? 表现为一条直线,如下图所示: ? 对其进行多形式扩展为: ? 映射函数 结合多项式回归在处理非线性可分数据时候的作用,在SVM的线性不可分的数据上,如果将数据映射到高维空间中,那么数据就会变成线性可分的,从而就可以使用线性可分SVM模型或者软门隔线性可分SVM模型

    2K50发布于 2018-04-27
  • 来自专栏灯塔大数据

    每周学点大数据 | No.11线性算法

    No.11期 亚线性算法 Mr. 王:从今天开始,我们正式讲解大数据算法的内容。首先谈谈关于亚线性算法的问题。 小可:我记得前面提到过亚线性算法,就是复杂度低于输入规模的算法。 Mr. 近似是亚线性算法的核心思想。 小可:原来是这样。 Mr. 王:亚线性算法也可以分为空间亚线性算法、时间亚线性计算算法和时间亚线性判定算法。 下面我就这几类问题分别举个典型的例子来看看亚线性算法是如何解决问题的。 Mr. 王:首先我们看一个经典问题:水库抽样。这是一个典型的空间亚线性算法。 王:讨论过算法的正确性,可以确定这个算法的执行结果是正确的,但是我们希望它是一个空间亚线性算法,所以还要分析它的空间复杂度是不是满足亚线性这一要求。你来分析一下,这个算法的空间复杂度如何? 王:这里也为我们设计空间亚线性算法提供了一个思路,就是不能去尝试保存全部的数据。我们要进行亚线性的均匀抽样,不能把所有的数据都保存下来,再去做均匀抽样,这样势必会造成O(n)的空间复杂度。

    1.6K50发布于 2018-04-08
  • 来自专栏超然的博客

    MIT-线性代数笔记(7-11

    以上是一个2×2的单位阵; 4)一个全为0的行,全为0的行总表示,该行的原行是其他行的线性组合;5)从Ax=0变为Ux=0再变为Rx=0的解,解更明了 将以上矩阵R中的主元列和自由列分别放在一起形成单位矩阵 若 Ax=b 有解,则 b3-b1-b2=0 Ax=b可解性Solvability:有解时右侧向量b须满足的条件 1)有解,仅当b属于A的列空间时成立,即,b必须是A的各列的线性组合 2)行的线性组合如果得到零行 第 09 讲 线性相关性、基、维数 ? ? ? ? 基 向量空间的一组基是指:一系列的向量,v1,v2...vd,这些向量具有两大性质:1)他们是线性无关的,可逆;2)他们生成整个空间 这些基有一个共同的特点,即对于给定N维空间,那么基向量的个数就是N个 第 11 讲 矩阵空间、秩1矩阵和小世界图 ? 3×3的所有矩阵,它的维数是9,一组基是: ? ? ?

    1.2K10发布于 2018-08-03
  • 来自专栏啄木鸟软件测试

    机器学习测试笔记(11)——线性回归方法(上)

    线性回归方法即找出一条直线,使得各个点到这条直线上的误差最小。 现在让我们通过Python语言来画一条直线:y = 0.5 * x + 3(这里斜率为0.5, 截距为3)。 现在我们通过sklearn的线性模型中的线性回归(LinearRegression)类来画出一条经过[2,3]和[3,4]的直线。 这条折线不经过[2,3]、[3,4]和[4,4]三个点中任意一个点,但是使得这三个点到这条直线的距离保持最小,这就体现出了线性回归的意义。 线性回归方法包括:最小二乘法、逻辑回归、支持向量机、岭回归和套索回归。下面我们进行一一介绍。 但是不雅开心得太早,我们使用sklearn datasets中的diabetes来进行线性回归,评分(score)就没有那么高了。

    1.8K10发布于 2021-01-04
  • 来自专栏Hadoop数据仓库

    MADlib——基于SQL的数据挖掘解决方案(11)——回归之线性回归

    I 1 2 3 4 5 6 7 8 9 10 11 12 Xi1 3.5 5.3 5.1 5.8 4.2 6.0 6.8 5.5 3.1 7.2 4.5 4.9 Xi2 9 20 18 33 31 13 25 30 5 47 25 11 Xi3 6.1 6.4 7.4 6.7 7.5 5.9 6.0 4.0 5.8 8.3 5.0 6.4 Yi 33.2 40.3 38.7 46.8 41.4 37.5 6.8,25,6.0,39.0), (5.5,30,4.0,40.7), (3.1,5,5.8,30.1), (7.2,47,8.3,52.9), (4.5,25,5.0,38.2), (4.9,11,6.4,31.8 两种推断方法推断的结果一致,说明因变量与自变量之间存在较强的线性关系,线性回归模型可用。 51.6755131538182 | 1.22448684618178 4.5 | 25 | 5 | 38.2 | 37.1789372916769 | 1.02106270832314 4.9 | 11

    1.2K10发布于 2019-05-25
  • 来自专栏Rust

    11 篇:多元线性回归 · Fama-French 三因子模型实战

    Beta_HML: -0.2134 R²: 0.6834 调整 R²: 0.6812 --- 因子暴露解读 --- 小盘暴露:倾向小市值 成长暴露:倾向成长股 多重共线性 VIF(方差膨胀因子)检测共线性。 R²_j 是第 j 个自变量对其他自变量回归的 R²。 y, &other_x); 1.0 / (1.0 - result.r_squared) }) .collect() } 判断标准: VIF 共线性 < 5 无问题 5-10 中度共线性 > 10 严重共线性 模型选择:AIC/BIC 因子越多,R² 越高——但可能过拟合。 VIF 检测共线性——VIF > 10 的因子需要剔除 3. AIC/BIC 选模型——不是因子越多越好 4. 矩阵求解是多元回归的基础——高斯消元法实现 OLS 因子越多越好?

    25310编辑于 2026-05-13
  • 来自专栏开心的学习之路

    线性结构------线性表(一)

    线性表的相关概念:   ------线性表(Linear List)由有限个类型相同的数据元素组成,除了第一个元素和最后一个元素外,其他元素都有唯一的前驱元素和唯一的后继元素。 ------表中元素个数成为线性表的长度。 ------线性表没有元素时成为空表。 ------表起始位置成为表头,结束位置成为表尾。 基本操作集合: (1)void InitList(List *L):初始化一个空线性表表 (2)DataType FindByNum(int k, List L):查找线性表中第K位的元素,返回该元素 e):在线性表中第i个位置上插入元素e (5)void Delete(List L, int i):删除线性表中第i个位置上的元素 (6)int Lengh(List L):返回线性表长度 (7)void PrintList(List L):打印线性线性表的实现: 一、顺序实现 #define MAXSIZE 20 typedef int DataType; typedef struct {

    65360发布于 2019-02-14
  • 来自专栏开心的学习之路

    线性结构------线性表(二)

        如果要对链表进行插入删除操作,用顺序结构需要找到目标位置然后移动大量元素,复杂度为O(n),此时就需要考虑线性表的链式存储结构。     链式线性表由n个结点通过指针域连接而成。

    50310发布于 2019-02-14
  • 来自专栏又见苍岚

    线性模型 -1- 线性回归

    学习华校专老师的笔记内容,记录线性模型相关知识。 线性模型( linear model ) 的形式为: f(\overrightarrow{\mathbf{x}})=\overrightarrow{\mathbf{w}} \cdot \overrightarrow 很多功能强大的非线性模型(nolinear model) 可以在线性模型的基础上通过引入层级结构或者非线性映射得到。 线性回归 问题定义 给定数据集 \mathbb{D}=\left\{\left(\overrightarrow{\mathbf{x}}_{1}, \tilde{y}_{1}\right),\left 最终学得的多元线性回归模型为: image.png 矩阵非满秩 当 \mathbf{X}^{T} \mathbf{X} 不是满秩矩阵。此时存在多个解析解,他们都能使得均方误差最小化。

    1.2K20编辑于 2022-08-06
  • 来自专栏学习笔记持续记录中...

    线性结构和非线性结构

    数据结构包括线性结构和非线性结构: 线性结构 1)特点是数据元素之间存在一对一的线性关系 2)线性结构有两种不同的存储结构,即顺序存储结构和链式存储结构。 顺序存储的线性表称为顺序表,顺序表中的存储元素是连续的 3)链式存储的线性表称为链表,链表中的存储元素不一定是连续的,元素节点中存放数据元素以及相邻元素的地址信息 4)线性结构常见的有:数组、队列、 链表和栈 非线性结构 非线性结构包括:二维数组、多维数组、广义表、树结构、图结构

    1.1K20发布于 2020-03-18
  • 来自专栏小小程序员——DATA

    线性回归 numpy实现线性回归

    手写线性回归 使用numpy随机生成数据 import numpy as np import matplotlib.pyplot as plt # 生成模拟数据 np.random.seed(42) # 可视化数据 plt.scatter(X, y) plt.xlabel('X') plt.ylabel('y') plt.title('Generated Data') plt.show() 定义线性回归参数并实现梯度下降 对于线性拟合,其假设函数为: h_θ(x)=θ_1x+θ_0 这其中的 θ 是假设函数当中的参数。 ) plt.ylabel('y') plt.legend() plt.title('Linear Regression using Gradient Descent') plt.show() 实现多元线性回归 多元线性回归的梯度下降算法: θ_j≔θ_j−α\frac{∂J(θ)}{∂θ_j} 对 \frac{∂J(θ)}{∂θ_j} 进行等价变形: θ_j≔θ_j−α\frac{1}{m}∑_{i=1}^

    1.3K10编辑于 2023-12-02
  • 来自专栏Vamei实验室

    线性代数01 线性的大脑

    丈夫买了1捆青菜,2盒黄豆,结账的时候,为11元和10个积分。妻子买了2捆绑青菜,3盒黄豆,结账的时候,为19元和16积分。 但如果妻子结账前碰到丈夫了,俩人把东西放在一起,总共3捆青菜,5盒黄豆。 [$11 + 19 = 30$]元,[$10 + 16 = 26$]积分。这通过结算系统的计算结果完全相同。 这想法没错。 分离的表示输入、线性系统和输出的关系: $$\begin{bmatrix} 11 \\ 10 \end{bmatrix} = \begin{bmatrix} 5 & 3 \\ 2 & 4 \end{bmatrix 更重要在于,线性系统和矩阵是互通的。矩阵表示的是一个线性系统。一个线性系统也总可以表示一个矩阵(证明从略)。 绕了半天,矩阵 = 线性系统。 总结 线性代数的核心是线性系统的概念。 线性系统与矩阵的等同性,让线性代数后面的内容,转入到对矩阵的研究中。但核心要牢记。 线性系统的概念在生活中非常常见。人的思维很多时候也是线性的。思考生活中线性和非线性的例子。

    79730发布于 2018-09-25
  • 来自专栏Vamei实验室

    线性代数01 线性的大脑

    后来读了更多的线性代数的内容,才发现,线性代数远不是一套奇奇怪怪的规定。它的内在逻辑很明确。只可惜大学时的教材,把最重要的一些核心概念,比如线性系统,放在了最后。 丈夫买了1捆青菜,2盒黄豆,结账的时候,为11元和10个积分。妻子买了2捆绑青菜,3盒黄豆,结账的时候,为19元和16积分。 image.png 你可能会反驳我,为什么要那么麻烦呢? [$11 + 19 = 30$]元,[$10 + 16 = 26$]积分。这通过结算系统的计算结果完全相同。 这想法没错。 更重要在于,线性系统和矩阵是互通的。矩阵表示的是一个线性系统。一个线性系统也总可以表示一个矩阵(证明从略)。 绕了半天,矩阵 = 线性系统。 总结 线性代数的核心是线性系统的概念。 线性系统与矩阵的等同性,让线性代数后面的内容,转入到对矩阵的研究中。但核心要牢记。 线性系统的概念在生活中非常常见。人的思维很多时候也是线性的。思考生活中线性和非线性的例子。

    1.1K50发布于 2018-01-18
  • 来自专栏专知

    线性回归:简单线性回归详解

    【导读】本文是一篇专门介绍线性回归的技术文章,讨论了机器学习中线性回归的技术细节。线性回归核心思想是获得最能够拟合数据的直线。 文中将线性回归的两种类型:一元线性回归和多元线性回归,本文主要介绍了一元线性回归的技术细节:误差最小化、标准方程系数、使用梯度下降进行优化、残差分析、模型评估等。在文末给出了相关的GitHub地址。 Linear Regression — Detailed View 详细解释线性回归 线性回归用于发现目标与一个或多个预测变量之间的线性关系。 有两种类型的线性回归 – 一元线性回归(Simple)和多元线性回归(Multiple)。 一元线性回归 ---- 一元线性回归对于寻找两个连续变量之间的关系很有用。 然后这个线性方程可以用于任何新的数据。也就是说,如果我们将学习时间作为输入,我们的模型应该以最小误差预测它们的分数。

    2.6K80发布于 2018-04-08
  • 来自专栏DeepHub IMBA

    线性回归,核技巧和线性

    在这篇文章中,我想展示一个有趣的结果:线性回归与无正则化的线性核ridge回归是等 价的。 这里实际上涉及到很多概念和技术,所以我们将逐一介绍,最后用它们来解释这个说法。 首先我们回顾经典的线性回归。 Input data") axes[0, 0].plot(X_, true_y, '--', label='True linear relation') axes[0, 0].set_xlim(0, 11 这就是核函数的诀窍:当计算解'时,注意到X '与其转置的乘积出现了,它实际上是所有点积的矩阵,它被称为核矩阵 线性核化和线性回归 最后,让我们看看这个陈述:在线性回归中使用线性核是无用的,因为它等同于标准线性回归 Input data") axes[0, 0].plot(X_, true_y, '--', label='True linear relation') axes[0, 0].set_xlim(0, 11 最后,我证明了线性回归背景下的线性核实际上是无用的,它对应于简单的线性回归。 作者:Yoann Mocquin

    61530编辑于 2023-11-10
  • 来自专栏机器学习/数据可视化

    线性模型

    西瓜书的第三章,主要讲解的是线性模型相关知识 基本形式 ;线性模型通过学习到的一个属性的线性组合来表示: f(x)=w_1x_1+w_2x_2+…+w_dx_d+b 一般是写成向量形式 f(x)= ) 多元线性回归 个属性 f( x)=w^Tx_i+b 将,有 \hat w^*=arg\min_{\hat w}(y-X\hat w)^T(y-X\hat w) ? 解决这个问题,引入正则化 对数线性回归 lny=w^Tx+b 即表示为: y=e{wTx+b} ? 一般情况下,g(.)是单调可微函数,满足 y=g{-1}(wTx+b) 这样的模型称之为广义线性模型,其中g称之为联系函数;对数线性回归是广义线性模型在g=ln()时候的特例 对数几率回归 。 此时对应的模型称之为对数几率回归 线性判别分析LDA 思想 线性判别分析Linear Discriminant Analysis最早在二分类问题上有Fisher提出来,因此也称之为Fisher判别分析.

    81410发布于 2021-03-02
  • 来自专栏codechild

    线性dp

    f[i][j]表示从开始的位置到i,j位置的路径之和的最大值。 因为f[i][j]是要求的那个,所以我们要求出它的状态方程 f[i][j]=max(f[i-1][j-1]+a[i][j],f[i-1][j]+a[i][j]) ok,现在开始我们做这道题

    49440编辑于 2023-05-30
  • 来自专栏wym

    线性

    l = (l^las)%n+1. r = (r^las)%n+1. if(l>r)swap(l,r); x = x^las 。

    72520发布于 2019-08-01
  • 来自专栏网络收集

    线性存储

    线性存储ArrayList 类【数组序列】实现了 List 接口,内部使用 Object 数组存储:可以高效地按索引进行元素修改和查询。

    28010编辑于 2022-08-05
领券