- 综合排序
- 最热优先
- 最新优先
- 来自专栏SIGAI学习与实践平台
深度学习算法地图
本文是机器学习算法地图的下篇，系统地整理了深度学习算法，整张图的设计风格与机器学习算法地图保持一致。从去年底就开始酝酿深度学习算法地图，然而工程浩大。 由于深度学习的算法变种太多，而且处于高速发展期，因此难免会有疏漏，后续版本将不断完善与优化。 完整的算法地图 下面先看这张图，以观深度学习全貌： ? 属于AutoML的范畴，通过机器学习算法来设计神经网络结构，从而解决只有特定领域的专业人员才能设计出性能优异的神经网络的问题，为深度学习在各个领域的普及应用带来了希望。 深度强化学习-通往强人工智能的路 深度强化学习（DRL）是深度学习与强化学习相结合的产物，整合了深度学习的感知能力与强化学习的决策能力。 前者的典型代表是深度Q网络，是深度神经网络与Q学习的合体，用神经网络逼近价值函数。后者这是神经网络与策略梯度算法的合体，用神经网络逼近策略函数。
2.1K40发布于 2019-05-17 - 来自专栏智能大数据分析
【深度学习优化算法】01：优化和深度学习
深度学习 (DL, Deep Learning) 特指基于深层神经网络模型和方法的机器学习。它是在统计机器学习、人工神经网络等算法模型基础上，结合当代大数据和大算力的发展而发展出来的。 深度学习最重要的技术特征是具有自动提取特征的能力。神经网络算法、算力和数据是开展深度学习的三要素。深度学习在计算机视觉、自然语言处理、多模态数据分析、科学探索等领域都取得了很多成果。 本专栏介绍基于PyTorch的深度学习算法实现。 本节将讨论优化与深度学习之间的关系以及在深度学习中使用优化的挑战。对于深度学习问题，我们通常会先定义损失函数。一旦我们有了损失函数，我们就可以使用优化算法来尝试最小化损失。 在深度学习中，大多数目标函数都很复杂，没有解析解。相反，我们必须使用数值优化算法。本章中的优化算法都属于此类别。 深度学习优化存在许多挑战。其中最令人烦恼的是局部最小值、鞍点和梯度消失。
34110编辑于 2025-05-31 - 来自专栏智能大数据分析
【深度学习优化算法】10：Adam算法
【作者主页】Francek Chen 【专栏介绍】 PyTorch深度学习 深度学习 (DL, Deep Learning) 特指基于深层神经网络模型和方法的机器学习。 它是在统计机器学习、人工神经网络等算法模型基础上，结合当代大数据和大算力的发展而发展出来的。深度学习最重要的技术特征是具有自动提取特征的能力。神经网络算法、算力和数据是开展深度学习的三要素。 深度学习在计算机视觉、自然语言处理、多模态数据分析、科学探索等领域都取得了很多成果。本专栏介绍基于PyTorch的深度学习算法实现。 不出预料，作为深度学习中使用的更强大和有效的优化算法之一，它非常受欢迎。但是它并非没有问题，尤其有时Adam算法可能由于方差控制不良而发散。 init_adam_states(feature_dim), {'lr': 0.01, 't': 1}, data_iter, feature_dim); 此外，我们可以用深度学习框架自带算法应用
61610编辑于 2025-08-02 - 来自专栏智能大数据分析
【深度学习优化算法】07：AdaGrad算法
【作者主页】Francek Chen 【专栏介绍】 PyTorch深度学习 深度学习 (DL, Deep Learning) 特指基于深层神经网络模型和方法的机器学习。 它是在统计机器学习、人工神经网络等算法模型基础上，结合当代大数据和大算力的发展而发展出来的。深度学习最重要的技术特征是具有自动提取特征的能力。神经网络算法、算力和数据是开展深度学习的三要素。 深度学习在计算机视觉、自然语言处理、多模态数据分析、科学探索等领域都取得了很多成果。本专栏介绍基于PyTorch的深度学习算法实现。 AdaGrad算法利用梯度的大小作为调整进度速率的手段：用较小的学习率来补偿带有较大梯度的坐标。 在深度学习问题中，由于内存和计算限制，计算准确的二阶导数通常是不可行的。梯度可以作为一个有效的代理。 在深度学习问题上，AdaGrad算法有时在降低学习率方面可能过于剧烈。我们将在Adam算法一节讨论缓解这种情况的策略。
30810编辑于 2025-07-19 - 来自专栏智能大数据分析
【深度学习优化算法】08：RMSProp算法
【作者主页】Francek Chen 【专栏介绍】 ⌈ PyTorch深度学习 ⌋ 深度学习 (DL, Deep Learning) 特指基于深层神经网络模型和方法的机器学习。 它是在统计机器学习、人工神经网络等算法模型基础上，结合当代大数据和大算力的发展而发展出来的。深度学习最重要的技术特征是具有自动提取特征的能力。神经网络算法、算力和数据是开展深度学习的三要素。 深度学习在计算机视觉、自然语言处理、多模态数据分析、科学探索等领域都取得了很多成果。本专栏介绍基于PyTorch的深度学习算法实现。 AdaGrad算法中的关键问题之一，是学习率按预定时间表 \mathcal{O}(t^{-\frac{1}{2}}) 显著降低。虽然这通常适用于凸问题，但对于深度学习中遇到的非凸问题，可能并不理想。 回想在AdaGrad算法一节中，当我们使用学习率为0.4的Adagrad算法时，变量在算法的后期阶段移动非常缓慢，因为学习率衰减太快。
29710编辑于 2025-07-22 - 来自专栏智能大数据分析
【深度学习优化算法】09：Adadelta算法
【作者主页】Francek Chen 【专栏介绍】 PyTorch深度学习 深度学习 (DL, Deep Learning) 特指基于深层神经网络模型和方法的机器学习。 它是在统计机器学习、人工神经网络等算法模型基础上，结合当代大数据和大算力的发展而发展出来的。深度学习最重要的技术特征是具有自动提取特征的能力。神经网络算法、算力和数据是开展深度学习的三要素。 深度学习在计算机视觉、自然语言处理、多模态数据分析、科学探索等领域都取得了很多成果。本专栏介绍基于PyTorch的深度学习算法实现。 Adadelta是AdaGrad的另一种变体，主要区别在于前者减少了学习率适应坐标的数量。此外，广义上Adadelta被称为没有学习率，因为它使用变化量本身作为未来变化的校准。 鉴于参数du jour是 \rho ，我们获得了与RMSProp算法类似的以下泄漏更新： \begin{aligned} \mathbf{s}_t & = \rho \mathbf{s}_{t-1}
24300编辑于 2025-08-02 - 来自专栏创及数字产业人才培养基地
深度学习算法是什么？
卷积神经网络是深度学习领域最重要的算法之一，主要用于图像识别、目标检测和人脸识别等任务。卷积神经网络通过卷积层、池化层和全连接层等组件，能够有效地提取图像的特征，并实现对图像的分类和识别。 深度强化学习是一种通过试错和优化来学习决策的算法，通常用于处理与环境交互的任务，如游戏和机器人控制。深度强化学习通过建立状态、行动和奖励的关系，不断优化策略，以取得最优的结果。 深度学习算法有许多优点。首先，深度学习具有强大的学习能力，能够处理复杂的问题，并取得优异的表现。其次，深度学习的网络结构非常灵活，可以适用于各种不同的任务。 另外，深度学习依赖于大量的数据，数据量越大，模型的表现越好。此外，深度学习算法的模型可以很好地移植到不同的平台上，具有良好的可移植性。然而，深度学习算法也存在一些缺点。 此外，由于深度学习的依赖数据并且可解释性较差，当训练数据不平衡时，容易出现歧视等问题。总结来说，深度学习是一种强大的机器学习算法，通过模拟人类大脑的学习过程，实现对复杂数据的处理和分析。
38810编辑于 2024-01-04 - 来自专栏null的专栏
深度学习算法原理——RCNN
概述RCNN（Region with CNN features）[1]算法发表在2014年CVPR的经典paper：《Rich feature hierarchies for Accurate Object 算法思想2.1. RCNN算法流程RCNN算法的流程图如下所示：图片从图中可以看出，RCNN主要包括三个部分：区域提名（Region Proposal）：使用到了Selective Search[2]的方法，通过Selective P \right ) ）的线性函数，即：d_{\ast} \left ( P \right )=\mathbf{w}^T_{\ast} \phi _5\left ( P \right ) ，我们需要学习到参数 对于目标检测算法，最终我们会得到一系列的bbox以及对应的分类score，NMS所做的工作就是将同一个类别下的bbox按照分类score以及IoU阈值做筛选，剔除掉冗余的bbox，NMS的具体过程为：在算法得到一系列
2.5K20编辑于 2022-12-24 - 来自专栏全栈程序员必看
深度学习CNN算法原理
深度学习CNN算法原理 一 卷积神经网络 卷积神经网络（CNN）是一种前馈神经网络，通常包含数据输入层、卷积计算层、ReLU激活层、池化层、全连接层（INPUT-CONV-RELU-POOL-FC），是由卷积运算来代替传统矩阵乘法运算的神经网络 注意感受野的深度必须和输入图像的深度相同。 参考网址：https://blog.csdn.net/u010555688/article/details/38780767 二 实验分析 在本文中，实验结果和过程基于Tensorflow深度学习框架进行实现 ，数据源使用MNIST数据集，分别采用softmax回归算法和CNN深度学习进行模型训练。 2.1 CNN模型实现 结合LenNet-5神经网络模型，基于Tensorflow深度学习模型实现方式如下： 2.2 模型评价指标 采用常用的成本函数“交叉熵”，如下式所示： Hy‘y=-iyi‘log
1.2K11编辑于 2022-10-04 - 来自专栏null的专栏
深度学习算法原理——TextCNN
论文地址：Convolutional Neural Networks for Sentence Classification
1.5K40发布于 2019-07-01 - 来自专栏JNing的专栏
深度学习: 模型优化算法
优化算法 类型 优化算法 类型 包括 一阶优化法 和 二阶优化法： 一阶优化法 二阶优化法 具体算法 随机梯度下降法、基于动量的随机梯度下降法、Nesterov型动量随机下降法、Adagrad 一阶优化法 ωω\omega ：待学习参数； ηη\eta ：学习率； ggg ：一阶梯度值； ttt ：第ttt轮训练。 随机梯度下降法 随机梯度下降算法，Stochastic Gradient Descent，简称 SGD 。 利用梯度的一阶矩估计和二阶矩估计动态调整每个参数的学习率。 优点： 经过偏置校正后，每一次迭代学习率都有一个确定范围，这样可以使得参数更新比较平稳。 ---- [1] 解析卷积神经网络—深度学习实践手册
98030发布于 2018-09-27 - 来自专栏null的专栏
深度学习算法原理——LSTM
算法原理 2.1. LSTM的网络结构 LSTM的网络结构如下所示（图片来自参考文献）： ? 与循环神经网络RNN相比，LSTM的网络结构要复杂的多。 image.png image.png 参考文献 Understanding LSTM Networks LSTM与GRU的原理，不熟悉的再来看看呀 神经网络与深度学习 人人都能看懂的LSTM
3.5K30发布于 2020-09-22 - 来自专栏学习
深度学习算法之栈
题目链接 给出由小写字母组成的字符串 s，重复项删除操作会选择两个相邻且相同的字母，并删除它们。
22100编辑于 2025-07-14 - 来自专栏IT派
深度学习DenseNet算法详解
DenseNet的几个优点，感受下它的强大： 1、减轻了vanishing-gradient（梯度消失） 2、加强了feature的传递 3、更有效地利用了feature 4、一定程度上较少了参数数量 在深度学习网络中 ，随着网络深度的加深，梯度消失问题会愈加明显，目前很多论文都针对这个问题提出了解决方案，比如ResNet，Highway Networks，Stochastic depth，FractalNets等，尽管这些算法的网络结构有差别 Table2是在三个数据集（C10，C100，SVHN）上和其他算法的对比结果。ResNet[11]就是kaiming He的论文，对比结果一目了然。 DenseNet-BC的网络参数和相同深度的DenseNet相比确实减少了很多！参数减少除了可以节省内存，还能减少过拟合。 在表格的倒数第二个区域的三个不同深度L和k的DenseNet的对比可以看出随着L和k的增加，模型的效果是更好的。 ?
1.4K20发布于 2018-07-30 - 来自专栏算法进阶
机器学习&深度学习的算法概览
基本概念 1.有监督学习与无监督学习 根据样本数据是否带有标签值，可以将机器学习算法分成有监督学习和无监督学习两类。 对于分类问题，如果决策树深度够大，它可以将训练样本集的所有样本正确分类。 决策树的训练算法是一个递归的过程，首先创建根节点，然后递归的建立左子树和右子树。 扩展阅读：一文通俗讲透树模型 随机森林 随机森林是一种集成学习算法，是Bagging算法的具体实现。 集成学习是机器学习中的一种思想，而不是某一具体算法，它通过多个模型的组合形成一个精度更高的模型，参与组合的模型称为弱学习器。 梯度下降法在机器学习中应用广泛，尤其是在深度学习中。AdaDelta，AdaGrad，Adam，NAG等改进的梯度下降法都是用梯度构造更新项，区别在于更新项的构造方式不同。
1.2K20编辑于 2023-08-28 - 来自专栏人工智能LeadAI
深度学习最常用的学习算法：Adam优化算法
听说你了解深度学习最常用的学习算法：Adam优化算法？-深度学习世界。 深度学习常常需要大量的时间和机算资源进行训练，这也是困扰深度学习算法开发的重大原因。 Adam 优化算法是随机梯度下降算法的扩展式，近来其广泛用于深度学习应用中，尤其是计算机视觉和自然语言处理等任务。 我们希望读者在读完两部分后能了解掌握以下几点： Adam 算法是什么，它为优化深度学习模型带来了哪些优势。 他们总结道：「在使用大型模型和数据集的情况下，我们证明了 Adam 优化算法在解决局部深度学习问题上的高效性。」 ： Adam 是一种在深度学习模型中用来替代随机梯度下降的优化算法。
10.8K90发布于 2018-03-09 - 来自专栏智能算法
【深度学习】深度多目标跟踪算法综述
如图2中所示为ACF行人检测算法的结果。 如何扩展深度学习在行人重识别问题中的研究成果到多目标跟踪领域，研究适用于多目标跟踪问题的深度学习算法是具有挑战性的问题。 图3：按照深度学习目标和应用对基于深度学习的多目标跟踪算法进行分类。 利用深度神经网络学习目标检测的表观特征是简单有效的提升多目标跟踪算法的方法。 4、基于深度学习的视觉多目标跟踪算法讨论 上文我们讨论了视觉多目标跟踪领域中，深度学习算法近年来的发展。 从直接扩展行人重识别任务中深度学习算法的网络模型，深度学习被证明在多目标跟踪领域中是确实可行的特征学习和特征匹配算法，对于提升跟踪性能可以起到非常重要的作用。 5、基于深度学习的视觉多目标跟踪发展趋势 近年来，基于深度学习的单目标跟踪算法取得了长足的进步。相对来说，深度学习在多目标跟踪领域的应用，比较多的局限于匹配度量的学习。
2.4K21发布于 2018-11-23 - 来自专栏1996
深度学习经典算法 | 粒子群算法详解
Boyd和Re chars on探索了人类的决策过程，并提出了个体学习和文化传递的概念。 每只鸟都不知道食物在哪里，但是随着时间的推移，这些初始处于随机位置的鸟类通过群内相互学习、信息共享和个体不断积累字觅食物的经验，自发组织积聚成一个群落，并逐渐朝唯一的目标-—食物前进。 PSO算法具有以下优点： 1)不依赖于问题信息，采用实数求解，算法通用性强。 需要调整的参数少，原理简单，容易实现，这是PSO算法的最大优点。 4)PSO算法是一种概率算法，算法理论不完善，缺乏独特性，理论成果偏少。 PSO算法程序设计 PSO算法实现的流程图如下图所示： 程序设计流程图 PSO算法设计的具体步骤如下： 步骤1：初始化粒子群（速度和位置）、惯性因子、加速常数、最大迭代次数、算法终止的最小允许误差。
2.7K10编辑于 2022-09-23 - 来自专栏1996
深度学习经典算法 | 遗传算法详解
遗传算法杂交了渐变式和爆发式两种思想。 遗传算法的实现步骤 GA由解编码、个体适应度评估和遗传算法三大模块构成，而遗传算法又包括染色体复制、交叉、变异甚至倒位等。 改良的遗传算法和融合新型技术的遗传算法都是SGA的变异形式。在遗传算法中，定义种群或群体为所有编码后的染色体集合，表征每个个体的是其相应的染色体。 为了避免在算法迭代后期出现种群过早收敛，对于二进制的基因码组成的个体种群，实行基因码的小几率翻转，对于二进制编码即0变为1，而1变为0。 落在各个区域的几率对应遗传算法中各条染色体被遗传到下一代的几率，其坠落的位置对应自变量取值。遗传算法依照与个体适应度成正比的几率决定当前种群中各个个体遗传到下一代群体中的机会。 程序设计流程 遗传算法伪代码 matlab GA工具箱求解多约束非线性规划问题 举例如下所示： matlab实现 主函数： %主程序：本程序采用遗传算法接力进化， %将上次进化结束后得到的最终种群作为下次输入的初始种群
96520编辑于 2022-09-23 - 来自专栏AI 算法笔记
深度学习算法简要综述(下)
上一篇文章的链接： 深度学习算法简要综述(上) ---- 本文目录如下： 深度学习是什么？ 图神经网络（Graph Neural Networks） 一般来说非结构化的数据并不是非常适合使用深度学习的算法。实际上现实生活中确实有很多应用的数据都是非结构化的，然后以图的格式组织起来的。 基于深度学习的自然语言处理 词嵌入（Word Embedding） 词嵌入是通过将单词转成数值向量表示来获取单词之间的语义和语法的相似性。 基于深度学习的计算机视觉 ? ---- 总结 上述就是本文的所有内容，非常简单的介绍了深度学习中几个常用的算法模型，包括了卷积神经网络、循环神经网络、自动编码器，也有最近几年才提出的生成对抗网络、Tranformers，另外也分别介绍了深度学习的两大应用
64010发布于 2020-04-07
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号