- 综合排序
- 最热优先
- 最新优先
- 来自专栏机器学习原理
深度学习——RNN（3）
n_hidden2), tf.nn.rnn_cell.BasicRNNCell(num_units=n_hidden3)
76250发布于 2018-06-06 - 来自专栏paddle深度学习
paddle深度学习3 Tensor
Tensor还提供了GPU计算和自动求梯度等更多功能，这些使Tensor更适合深度学习。 Tensor】可以调用paddle.Tensor()类创建一个Tensor1.用numpy数组创建Tensorimport paddleimport numpy as npa=np.array([1,2,3] )a=paddle.Tensor(a)a2.用paddle.rand()方法创建随机Tensorimport paddlea=paddle.rand((2,3))apaddle.rand()会生成一个随机向量 ，传入的一个元组参数会作为向量的形状，可以用dtype参数指定元素类型3.用paddle.arange()方法生成Tensor这种方法类似于numpy.arange()，会生成一个等差数列向量import Tensor 的一些重要属性包括：1.ndim维度import paddlea=paddle.reshape(paddle.arange(1,7),(3,2))print(a)print(a.ndim)
35800编辑于 2024-05-19 - 来自专栏石云升
《深度工作》学习笔记（3）
深度工作很有效，但每个人能进入的程度不一样、时间不一样。这些都是需要刻意练习的。 深度工作的障碍之一：我们很容易产生一种冲动，将注意力转移到某种浮浅的事物中。大多数人能意识到这种冲动，但都是在事后。 这种工作哲学要求个人将时间分成两块，一块明确用于深度工作，另一块时间则做浮浅工作。在深度工作的时间里，双峰工作者会追求高强度、无干扰的专注。 第三种叫节奏哲学。 这种工作哲学是把深度工作和浮浅工作的时间分配，用一种严格的日程安排固定下来，也就是说，每天都要留出固定的时间用于深度工作。 遵循这种工作哲学的人往往事务繁忙，但具有极强的自控力，可以随时在浮浅工作和深度工作之间切换，见缝插针地利用时间。前一分钟还在和人在酒桌上把酒言欢，后一分钟就已经开始转入深度工作模式。不适合新手。 我的方法是找出自己每天工作效率最高的时间段，最佳工作状态，刻意营造这样的环境和创造这样的状态，让自己进入深度工作状态的概率更大。
30130编辑于 2022-08-25 - 来自专栏计算机视觉
深度学习500问——Chapter03：深度学习基础（3）
3.6.6 局部响应归一化作用 LRN是一种提高深度学习准确度的技术方法。LRN一般是在激活、池化函数后的一种方法。 而函数的英文注解中也说明了把 input 当成是 个 3 维的矩阵，说白了就是把 input 的通道数当作 3 维矩阵的个数，叠加的方向也是在通道方向。 计算上一层输出数据的标准差 3. 归一化处理，得到 其中， 是为了避免分母为0而加进去的接近于0的很小值。 4. 重构，对经过上面归一化处理得到的数据进行重构，得到 其中， 为可学习参数。 Weight Normalization相比Batch Normalization有以下三点优势： Weight Normalization 通过重写深度学习网络的权重W的方式来加速深度学习网络参数收敛 不需要额外的存储空间来保存 mini batch 的均值和方差，同时实现 Weight Normalization 时，对深度学习网络进行正向信号传播和反向梯度计算带来的额外计算开销也很小。
27410编辑于 2024-03-19 - 来自专栏全栈程序员必看
深度学习—3.Pytorch基础
dtype、shape、device、requires_grad、grad、grad_fn import torch #创建张量 #参数data：可以为列表，或者数组 t1=torch.tensor([3,5 tensor tensor([1, 2, 3, 6], dtype=torch.int32) 3、利用form_numpy创建张量，并修改和查看内存 import torch import numpy 999] 31348896 tensor tensor([1000, 2, 3, 999], dtype=torch.int32) 31348896 [1000 2 3 999 , 3.], [3., 3.]], grad_fn=<AddBackward0>) tensor([[27., 27.], [27., 27.]], grad_fn=<MulBackward0 requires_grad=True) #b=torch.randn(1,requires_grad=True)#偏执,要求梯度，才能回传 b=torch.zeros(1,requires_grad=True) #定义学习率
46530发布于 2021-10-08 - 来自专栏点云PCL
3D深度学习课程
课程讲师是Hao su ,主要介绍几何微分的概念、计算机几何图形学、视觉和机器学习中的应用，特别是深度学习部分。其中一半是讲师授课，一半是学生完成项目的演示，非常值得学习。 03 Stanford CS468: Machine Learning for 3D Data 该课程将探讨在3D数据分析和合成方面，有监督和无监督机器学习的最新算法。 本课程将学习几何分析和从这些数据库中检索三维形状的算法。研究的重点将是匹配、配准、识别、分类、聚类、分割和理解3D数据的方法。 Princeton%20CS597%20Geometric%20Modeling%20and%20Analysis 07 Geometric Deep Learning 在过去的十年中，深度学习方法 直到最近，在这些特定领域采用深度学习的做法一直滞后，主要是因为数据的非欧几里得性质使得基本运算（如卷积）的定义变得相当难以捉摸。几何深度学习从这个意义上讲是将深度学习技术扩展到图形/流形结构数据。
1.4K30发布于 2019-07-30 - 来自专栏PyVision
深度学习3D合成
因此，近年来许多深度学习方法被提出，可以不依赖任何 3D 传感器，从可用的 2D 数据中合成 3D 数据。在我们深入研究这些方法之前，先了解下要处理的 3D 数据的格式。 ? 基于图的卷积神经网络 正如在前一节所看到的，大多数传统的基于自动编码器的深度学习方法已经利用点云和体素数据格式来合成 3D 数据。 基于 Pixel2Mesh 的真实世界图像重建 Pixel2Mesh 是一个基于图的端到端深度学习框架，它采用一个 RGB 彩色图像作为输入，并以更理想的摄像头坐标格式将2D 图像转换为3D 网格模型。 基于Transformer的深度结构 卷积神经网络具有端到端的学习能力，可以直接从数据中学习执行任务，不需要任何手工设计的视觉特征，因此被广泛应用于计算机视觉任务。 总结 在本文中，我们讨论了两种主要的 3D 合成方法，即卷积深度网络和基于 transformer 的深度网络。
1.6K21发布于 2021-01-26 - 来自专栏计算机视觉
深度学习500问——Chapter10：迁移学习（3）
11.3 迁移学习的常用方法 11.3.1 数据分布自适应 数据分布自适应（Distribution Adaption）是一类最常用的迁移学习方法。 图23展示的结果表明将概率分布适配加入到深度网络中，往往会取得比非深度学习更好的结果。 因此，此类方法的目标就是，通过机器学习方法，选择出这部分共享的特征，即可依据这些特征构建模型。 图24形象地表示了特征选择法的主要思路。 对齐后的数据，可以利用传统机器学习方法构建分类器进行学习。SA方法(Subspace Alignment，子空间对齐)[Fernado et al.,2013]是其中的代表性成果。 SA方法的优化目标如下： 则变换 M 的值为： 可以直接获得上述优化问题的闭式解： SA 方法实现简单，计算过程高效，是子空间学习的代表性方法。
57510编辑于 2024-06-15 - 来自专栏计算机工具
深度学习3. 强化学习-Reinforcement learning | RL
强化学习是机器学习的一种学习方式，它跟监督学习、无监督学习是对应的。本文将详细介绍强化学习的基本概念、应用场景和主流的强化学习算法及分类。 什么是强化学习？ 强化学习并不是某一种特定的算法，而是一类算法的统称。 如果用来做对比的话，他跟监督学习，无监督学习 是类似的，是一种统称的学习方式。 ——奖励 强化学习和监督学习、无监督学习 最大的不同就是不需要大量的“数据喂养”。 除了免模型学习和有模型学习的分类外，强化学习还有其他几种分类方式： 基于概率 VS 基于价值 回合更新 VS 单步更新 在线学习 VS 离线学习 强化学习(reinforcement learning) 但在传统的机器学习分类中没有提到过强化学习，而在连接主义学习中，把学习算法分为三种类型， 非监督学习(unsupervised learning)、监督学习(supervised leaning)和强化学习
88210编辑于 2024-12-14 - 来自专栏点云PCL
3D点云的深度学习
使用卷积神经网络（CNN）架构的深度学习（DL）现在是解决图像分类任务的标准解决方法。但是将此用于处理3D数据时，问题变得更加复杂。 首先，可以使用各种结构来表示3D数据，所述结构包括： 1 体素网格 2 点云 3 多视图 4 深度图 对于多视图和深度图的情况，该问题被转换为在多个图像上使用2D CNN解决。 ://www.cnblogs.com/li-yao7758258/p/8182846.html 以及最近山东大学研究者们提出的PointCNN，对于pointCNN 这篇论文是一种为基于点云的特征学习提出了一种简单且通用的框架 为了解决这些问题，提出了根据输入点学习一种X变换，然后将其用于同时加权与点关联的输入特征和将它们重新排列成潜在隐含的规范顺序，之后再在元素上应用求积和求和运算。 我们提出的方法是典型CNN向基于点云的特征学习的泛化，因此将其称为PointCNN。实验表明，PointCNN能在多种有挑战性的基准数据集和任务上实现与之前最佳方法媲美或更好的表现。
1.5K30发布于 2019-07-31 - 来自专栏AiCharm
深度学习相关概念：3.梯度下降
梯度下降概念 在深度学习中，你一定听说过“梯度下降”，在绝大部分的神经网络模型里有直接或者间接地使用了梯度下降的算法。 深度学习的核心：就是把数据喂给一个人工设计的模型，然后让模型自动的“学习”，通过反向传播进而优化模型自身的各种参数，最终使得在某一组参数下该模型能够最佳的匹配该学习任务。 那么如果想要这个模型达到我们想要的效果，这个“学习”的过程就是深度学习算法的关键。 梯度下降法就是实现该“学习”过程的一种最常见的方式，尤其是在深度学习(神经网络)模型中，BP反向传播方法的核心就是对每层的权重参数不断使用梯度下降来进行优化。 但是梯度下降3种算法都有缺点，都可能会陷入局部最优或者计算量大。应该如何改进？目前人们已经提出动量法和自适应梯度来解决本文中的问题。详情见我的下一篇博客——深度学习相关概念：动量法与自适应梯度
62530编辑于 2023-05-15 - 来自专栏相约机器人
PyTorch 3D：深入挖掘深度学习
Facebook正在缓解3D深度学习的麻烦，一次解决一个问题。去年它发布了Mesh R-CNN，该系统可以从2D形状渲染3D对象。今年它发布了PyTorch3D。 https://pytorch3d.org/ 3D深度学习一直是一个尚未开发的领域。 与传统方法相比，使用PyTorch3D进行3D深度学习要容易得多，而且速度更快，许多AI创新者和研究人员都在支持它。 特征： PyTorch3D结合了3D对象和深度学习。 ，研究人员可以输入所有这些功能，并将其与PyTorch中现有的深度学习系统一起使用。 它极大地减少了进行3D计划研究所需的时间，这需要大量的专业知识才能开始，希望尝试减少这种准备时间。” 运作： PyTorch3D旨在与深度学习方法完美融合。
1.2K01发布于 2020-11-13 - 来自专栏数据科学与人工智能
【深度学习】深度学习
深度学习的起源 深度学习（Deep Learning）是机器学习中一个非常接近AI的领域，其动机在于建立、模拟人脑进行分析学习的神经网络。深度学习属于无监督学习。 深度学习可通过学习一种深层非线性网络结构，实现复杂函数逼近，表征输入数据分布式表示，并展现了强大的从少数样本集中学习数据集本质特征的能力。含多隐层的多层感知器就是一种深度学习结构。 深度学习的动机 学习基于深度架构的学习算法的主要动机是： ①不充分的深度是有害的； 在许多情形中深度2就足够(比如logicalgates, formal[threshold] neurons DBN解决传统BP算法训练多层神经网络的难题：1）需要大量含标签训练样本集；2）较慢的收敛速度；3）因不合适的参数选择陷入局部最优。 DBN由一系列受限波尔兹曼机（RBM）单元组成。 –Deep Learning [3] 深度学习(Deep Learning, DL)的相关资料总结 [4] UFLDL教程 [5] Hinton, Geoffrey E., Simon Osindero
2.4K72发布于 2018-02-27 - 来自专栏计算机视觉
深度学习500问——Chapter02：机器学习基础（3）
3. 去冗余：去除可以被其他向量代表的线性相关向量，这部分信息量是多余的。 4. 对于Noise： 噪声：描述了在当前任务上任何学习算法所能达到的期望泛化误差的下界，即刻画了学习问题本身的难度。 产生原因： 分类学习算法通常都会假设不同类别的训练样例数目基本相同。如果不同类别的训练样例数目差别很大，则会影响学习结果，测试结果变差。 其思想是利用集成学习机制，将大类划分为若干个集合供不同的学习器使用。相当于对每个学习器都进行欠采样，但对于全局则不会丢失重要信息。 ADASYN：根据学习难度的不同，对不同的少数类别的样本使用加权分布，对于难以学习的少数类的样本，产生更多的综合数据。
46410编辑于 2024-03-19 - 来自专栏WD学习记录
机器学习深度学习 笔试面试题目整理（3）
题目来源： 面试笔试整理3：深度学习机器学习面试问题准备（必会） 面试笔试整理4：机器学习面试问题准备（进阶） 深度学习面试题 深度学习岗位面试题 1. 决策树相关： 主要见机器学习 学习笔记（8） 决策树 KL散度用于度量两个分布的不相似性，KL(p||q)等于交叉熵H(p,q)-熵H(p)。 逻辑回归相关： 主要见：机器学习 学习笔记（6） Logistic 回归 （1）公式推导一定要会 （2）逻辑回归的基本概念 这个最好从广义线性模型的角度分析，逻辑回归是假设y服从Bernoulli （3）L1-norm和L2-norm 其实稀疏的根本还是在于L0-norm也就是直接统计参数不为0的个数作为规则项，但实际上却不好执行于是引入了L1-norm；而L1norm本质上是假设参数先验是服从 （6）常用的优化方法 机器学习 学习笔记（4）牛顿法 拟牛顿法 机器学习 学习笔记（3） 梯度下降 牛顿法其实就是通过切线与x轴的交点不断更新切线的位置，直到达到曲线与x轴的交点得到方程解。
1.4K10发布于 2018-09-04 - 来自专栏机器学习算法与理论
《白话深度学习与Tensorflow》学习笔记（3）HMM RNN LSTM
忘记门（forget gate）某个X值可能会影响一个在时间上或者空间上比较远的hj输出，训练的过程就是学习到这个影响被量化的过程。 RNN忘记门 3、Tanh也是神经网络的一个层，可以把一个值映射到一个-1，1之间的数。 ?
1.3K70发布于 2018-04-10 - 来自专栏罗西的思考
深度学习利器之自动微分(3) --- 示例解读
我们在前两篇文章学习了自动微分的基本概念，从本文开始，我们继续分析 PyTorch 如何实现自动微分。 因为涉及内容太多太复杂，所以计划使用 2～3篇来介绍前向传播如何实现，用 3 ～ 4 篇来介绍后向传播如何实现。 系列前两篇连接如下： 深度学习利器之自动微分(1) 深度学习利器之自动微分(2) 0x01 概述 在训练神经网络时，最常用的算法是 反向传播。 output w = torch.randn(5, 3, requires_grad=True) b = torch.randn(3, requires_grad=True) z = torch.matmul 0xFF 参考 https://github.com/KeithYin/read-pytorch-source-code/ pytorch学习笔记（十三）：backward过程的底层实现解析 PyTorch
1.7K30发布于 2021-10-20 - 来自专栏信数据得永生
TensorFlow 图像深度学习实用指南：1~3 全
gitcode.net/apachecn/apachecn-dl-zh/-/raw/master/docs/handson-dl-img-tf/img/d4f08cda-260b-4a40-8115-f2ff0c3b1634 0.0.0.0不是真实的计算机，因此无法达到； 我们将其切换为localhost，点击Enter，然后确定我们有一个 IPython 笔记本： IPython 笔记本 我们将继续创建一个新的 Python 3 您需要互联网连接，因为它将要从 Amazon S3 作为文件下载这些文件。 1681653375894)(https://gitcode.net/apachecn/apachecn-dl-zh/-/raw/master/docs/handson-dl-img-tf/img/abb0ea3a 这允许神经网络学习更复杂的形状，而对网络结构内部的复杂形状的学习正是让神经网络和深度学习真正学习的基础。
2K20编辑于 2023-04-24 - 来自专栏机器学习原理
深度学习——目标检测（3）YOLO1SSD
对于形状为 m* n * p 的特征图，只需要采用 3* 3 * p 这样比较小的卷积核得到检测值。 * 3卷积，其视野就是 3 * 3 ，(b)是扩张率为1，此时视野变成 7 * 7 ，(c)扩张率为3时，视野扩大为 15 * 15 ，但是视野的特征更稀疏了。 Conv6采用 3 * 3大小但dilation rate=6的扩展卷积。 然后移除dropout层和fc8层，并新增一系列卷积层，在检测数据集上做finetuing。 检测值包含两个部分：类别置信度和边界框位置，各采用一次 3 * 3 卷积来进行完成。 由于每个先验框都会预测一个边界框，所以SSD300一共可以预测 38 * 38 * 4+19 * 19 * 6+10 * 10 * 6+5 * 5 * 6+3 * 3 * 4+1 * 1 * 4=8732
93710发布于 2018-07-24 - 来自专栏机器学习算法与Python学习
关于深度多任务学习的 3 点经验
实现深度学习模型。 现在已经有很多关于利用深度学习模型实现 MTL 的文章。在本文中，我准备分享一些利用神经网络实现 MTL 时需要考虑的具体问题，同时也会展示一些基于 TensorFlow 的简单解决方案。 第二点：调节学习速率 调节神经网络有一个通用约定：学习速率是最重要的超参数之一。所以我们尝试调节学习速率。 我们发现，对于某一个任务 A 而言，存在一个特别适合的学习速率，而对于另一个任务 B，则有不同的适合学习速率。 我们可以在各个「头部」（见上图，即各任务的子网络）分别调节各自的学习速率，而在共享网络部分，使用另一个学习速率。 虽然听上去很复杂，但其实非常简单。
1.5K20发布于 2019-03-07
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号