• 综合排序
• 最热优先
• 最新优先
时间不限
时间不限
最近一周
最近一月
最近三月
• 来自专栏石云升订阅

  《深度工作》学习笔记（6）

  1、人不能一直保持深度工作，人的精力毕竟有限。通过给自己一段安逸的不消耗精力的时间来调整自己的状态。 但未完成的任务，会吸引我们的注意力。导致我们注意力的浪费。这种效应又被叫为”蔡加尼克效应“。 一个好的生活习惯能让你更快、更久的进入深度工作。当然要做到这个很难，你得有规划分心的能力，具体到行为上，就是锻炼自己在专注时间里刻意的不去做分心的事。比如查看邮件，回复微信等。 在深度工作的书里讲的是用扑克牌来隐射，通过记住每一张扑克牌对应的人或者物，再通过这些人或者物来记忆生活中的人或物。场景越夸张越容易记忆。

  38630编辑于 2022-08-25
• 来自专栏祥子的故事订阅

  《深度学习》第6章

  chapter6 Deep Feedforward Networks 6.1-6.3节主要讲的是前向神经网络，前言主要讲为什么要用神经网络；6.1节举例说明线性的无法解释XOR学习，非线性的可以很好解释 ，引出神经网络的介绍；6.2节讲述基于梯度的学习；6.3节说的是隐藏层，主要是介绍不同的激活函数。 下面关于ϕ(x)\phi(x)的选择有3个技巧： kernel machine.问题是训练效果好，测试效果差； 采用手动调整的方式来学习ϕ(x)\phi(x)。 采用深度学习的策略来学习。 6.2 基于梯度的学习：采用梯度的方法来对代价函数进行优化 代价函数 采用交叉熵来定义训练数据与模型的预测数据的代价函数。

  63550发布于 2019-02-18
• 来自专栏信数据得永生订阅

  深度学习快速参考：6~10

  网格搜索对于深度学习并不是很实用。 除了最基本的深度神经网络，我们无法现实地探索所有可能参数的每个可能值。 尽管您当然可以将最新技术应用于自己的深度学习问题，但您需要在决策中权衡实现的复杂性和搜索运行时间。 本章总结了深度学习的基础。 在下一章中，我们将从计算机视觉入手，介绍神经网络的一些更有趣和更高级的应用。 七、从头开始训练 CNN 深度神经网络彻底改变了计算机视觉。 八、将预训练的 CNN 用于迁移学习 迁移学习很棒。 实际上，在一本充满奇妙事物的书中，这可能是我必须告诉您的最奇妙的事物。 如果没有，那也许至少是我可以教给您的最有用和最实用的深度学习技术。 迁移学习可以帮助您解决深度学习问题，尤其是计算机视觉问题，而涉及问题范围的数据和数据却很少。 在本章中，我们将讨论什么是迁移学习，什么时候应该使用它，最后讨论如何在 Keras 中进行迁移学习。

  87120编辑于 2023-04-23
• 来自专栏信数据得永生订阅

  PyTorch 深度学习实用指南：6~8

  从某种意义上说，我们通过要求网络做某事来欺骗网络，但是网络必须在不了解自己正在学习的情况下学习我们的需求。 生成网络已经在不同的深度学习领域，特别是在计算机视觉领域显示出了可喜的成果。 在本章中，我们将使用一种称为强化学习的方法来制定这种计算学习方法。 它与本书中介绍的其他类型的深度学习算法非常不同，并且本身就是一个广阔的领域。 深度 Q 学习 深度 Q 学习算法使用神经网络来解决 Q 学习问题。 它对于连续空间的强化学习问题非常有效。 也就是说，任务不会结束。 前面我们讨论了值函数（V）和操作值函数（Q）。 这是深度学习的更多物理应用之一。 在下一章和最后一章中，我们将着眼于生产我们的 PyTorch 模型，以便您可以在任何框架或语言上运行它们，并扩展您的深度学习应用。 ONNX 定义了深度学习图所需的基本运算符和标准数据类型。

  1.6K20编辑于 2023-04-27
• 来自专栏华章科技订阅

  详解 6 大主流深度学习框架

  导读：近几年，随着深度学习的爆炸式发展，相关理论和基础架构得到了很大突破，它们奠定了深度学习繁荣发展的基础。这其中涌现了几个著名的深度学习平台，本文将对这些平台进行简要介绍。 在过去很长一段时间里，Theano是深度学习开发与研究的行业标准。出身学界的Theano最初是为学术研究而设计的，这使得深度学习领域的许多学者至今仍在使用Theano。 尽管Theano将退出历史舞台，但作为第一个Python深度学习框架，它很好地完成了自己的使命—为深度学习研究人员早期拓荒提供了极大的帮助，同时也为之后深度学习框架的开发奠定了基本设计方向：以计算图为框架的核心 Keras目前是最容易上手的深度学习框架，它提供了一致且简洁的API，能够极大减少一般应用下用户的工作量。 相比于深度学习框架，Keras更像是一个深度学习接口，它构建于第三方框架之上。 Keras的过度封装使其并不适合新手学习（无法理解深度学习的真正内涵），故不推荐。

  5.2K20编辑于 2022-03-11
• 来自专栏NowlNowl_AI订阅

  深度学习第6天：ResNet深度残差网络

  什么是ResNet ResNet是一种用于图像识别的深度残差网络，是卷积神经网络的一种重要模型，ResNet开创性地引入了残差连接，解决了深层网络在训练过程中梯度弥散的问题，使深层模型的训练更加简便， 经原作者试验，在1000层左右的范围内，模型性能随层数增加而增加 直连通路的结果与卷积层结果直接相加，使得模型在训练过程中只需要拟合不同层网络输出值与输入值的残差值，而无需直接拟合网络输出值，大大降低了模型学习的难度

  93400编辑于 2024-01-18
• 来自专栏AiCharm订阅

  深度学习经典网络解析：6.GoogLeNet

  1.背景介绍   GoogLeNet是2014年Christian Szegedy提出的一种全新的深度学习结构，在这之前的AlexNet、VGG等结构都是通过增大网络的深度（层数）来获得更好的训练效果， 它拥有多个不同尺度的kernels，每一个尺度的kernel会学习不同的特征，把这些不同kernels学习到的特征汇聚给下一层，能够更好的实现全方位的学习。 可能是全连层参数太多，网络深度增加了以后，难以接受吧。 这两个AC在训练的时候也跟着学习，同时把自己学习到的梯度反馈给网络，算上网络最后一层的梯度反馈，GoogLeNet一共有3个“梯度提供商”，它确实提高了网络收敛的速度，因为梯度变大了。 深度学习经典网络解析：4.DenseNet 深度学习经典网络解析：2.AlexNet 深度学习经典网络解析：5.VGG

  1.5K30编辑于 2023-05-15
• 来自专栏机器学习养成记订阅

  如何在6个月内学习深度学习(翻译)

  机器学习工程师Bargava的文章《How to learn Deep Learning in 6 months》介绍了6个月内学习并掌握深度学习的实现步骤，每个步骤列出了相应的学习材料和学习目标。 第一步 我们通过学习驾驶从而学习开车，而不是通过学习离合器和内燃机的工作原理。学习深度学习时，在起始阶段，我们将遵循同样的自上而下的方法。 用4-6周的时间学习fast.ai课程 (http://course.fast.ai/)。 第二步 这个阶段开始了解一些基础知识，学习微积分和线性代数。 考虑之前已经进行过的学习，理想情况下，应该能够每周完成一门课程 第四步 前三个步骤是了解如何和在何处使用深度学习，并获得坚实的基础。 这个阶段需要自己完成一个项目，从而更加深入的了解深度学习相关的库，如：Tensorflow, PyTorch, MXNet 等。

  1K70发布于 2018-04-10
• 来自专栏paddle深度学习订阅

  paddle深度学习6 paddle Tensor 的广播机制

  float32')B = paddle.to_tensor([[10, 20, 30, 40]], dtype='float32')result = A + Bprint(result.numpy())在深度学习和科学计算中 广播机制在深度学习和科学计算中非常常见，以下是一些典型的应用场景：【张量运算】逐元素运算：加法、减法、乘法、除法等。例如：将标量与张量相加，或将不同形状的张量相乘。

  38100编辑于 2025-01-12
• 来自专栏往期博文订阅

  深度学习基础：6.Batch Normalization简介作用

  数据标准化通常包括两种：0-1标准化和Z-score标准化，深度学习中的标准化往往指代的是后者。 by Reducing Internal Covariate Shift》中提出的一种方法，该方法通过修改每一次带入训练的数据分布（每一个Batch）的数据分布，来提升模型各层梯度的平稳性，从而提升模型学习效率 每次网络都是随机取batch，这样就会使得整个网络不会朝这一个方向使劲学习。一定程度上避免了过拟合。 通常来说，BN层放置在线性层和卷积层之后，激活函数之前。

  1.4K20编辑于 2022-07-14
• 来自专栏信数据得永生订阅

  TensorFlow 2 和 Keras 高级深度学习：6~10

  对于 MNIST，我们可以使用基于 CNN 的分类器，类似于在“第 1 章”，“Keras 高级深度学习”中讨论的分类器。 这是，其中深度学习（DL）开始发挥作用。 它解决了这个可扩展性问题，从而开启了深度强化学习（DRL）的时代。 在本章中，我们的重点是 DRL。 在下一节中，我们将使用深度神经网络来学习 Q 表。 6. 深度 Q 网络（DQN） 在小型离散环境中，使用 Q 表执行 Q 学习是很好的选择。 解决方案是使用深度神经网络学习 Q 表。 但是，由于样本相关性和目标 Q 网络的非平稳性，在 RL 上训练深度神经网络非常不稳定。 就像我们在“第 9 章”，“深度强化学习”中讨论的基于值的方法一样，策略梯度方法也可以实现为深度强化学习算法。 研究策略梯度方法的基本动机是解决 Q 学习的局限性。

  2.6K10编辑于 2023-04-26
• 来自专栏信数据得永生订阅

  TensorFlow 深度学习第二版：6~10

  最近在深度学习的背景下重新发现了这种类型的神经网络，因为它没有消失梯度的问题，并且提供了出色的结果和表现。基于 LSTM 的网络是时间序列的预测和分类的理想选择，并且正在取代许多传统的深度学习方法。 cuDNN 是一个有助于加速深度学习框架的库，例如 TensorFlow 和 Theano。 这就是深度学习的步骤。神经网络非常擅长为高度结构化的数据提供良好的功能。 Cart-Pole 问题 我们将建立一个深度神经网络，可以学习通过 RL 玩游戏。更具体地说，我们将使用深度 Q 学习训练智能体玩 Cart-Pole 游戏。 在这个游戏中， 自由摆动杆连接到推车。 深度学习算法的进步已经在 RL 中引入了新的成功应用浪潮，因为它提供了有效处理高维输入数据（例如图像）的机会。

  1.8K20编辑于 2023-04-23
• 来自专栏信数据得永生订阅

  TensorFlow 1.x 深度学习秘籍：6~10

  学习使用 RNN 预测未来的比特币价值 多对一和多对多 RNN 示例 介绍 在本章中，我们将讨论循环神经网络（RNN）如何在保持顺序顺序重要的领域中用于深度学习。 八、自编码器 自编码器是前馈，非循环神经网络，可通过无监督学习来学习。 他们具有学习数据的紧凑表示的固有能力。 它们是深度信念网络的中心，可在图像重建，聚类，机器翻译等领域找到应用。 我们将在深度 Q 学习秘籍中使用 CNN 解决此问题。 Q 网络和 Atari 游戏 深度 Q 网络（DQN）是 Q 学习与卷积神经网络（CNN）的结合。 这与台式机或云深度学习的情况大不相同，在台式机或云深度学习中，GPU 和电力通常可用。 实际上，在移动设备上，保存电池非常重要，并且 GPU 经常不可用。 但是，深度学习在许多情况下可能非常有用。

  1.3K10编辑于 2023-04-23
• 来自专栏智能算法订阅

  深度学习三人行(第6期)----深度学习之学习率的命运

  上一期，我们一起学习了深度学习中的优化器的进化， 深度学习三人行(第5期)----深度学习中的优化器选择 今天我们一起看下学习率有着一个什么样的命运，我们多多交流，共同进步。 本期主要内容如下： 学习率的影响 学习率的优化策略 学习率优化调节的实现 命运的安排 ---- 一. 学习率的影响 在深度学习中，寻找一个合适的学习率是比较困难的。 在训练深度网络的过程中，如果学习率设置的过高，training学习曲线将会比较发散；如果学习率设置的过低，虽然训练最终会收敛到收敛到最优值，但是将会消耗很长的时间；如果学习率设置的稍微高，但是没那么高的话 有时候，我们可以通过分别用几个不同的学习率来training几个epochs，通过比较这几个不同学习率的学习曲线来找到一个相对好一点的学习率。理想的学习率将会使学习过程很快，并很快收敛一个好的解。 0, trainable=False) 5learning_rate = tf.train.exponential_decay(initial_learning_rate, global_step, 6decay_steps

  74140发布于 2018-12-07
• 来自专栏算法channel订阅

  送6本精选的算法，机器学习，深度学习的书

  本书全面论述了算法的内容，从一定深度上涵盖了算法的诸多方面，同时其讲授和分析方法又兼顾了各个层次读者的接受能力。各章内容自成体系，可作为独立单元学习。 全书讲解通俗易懂，且不失深度和数学上的严谨性。 6stanford-cs20i-tensorflow-for-deep-learning 这是stanford一门讲解tensorflow如何使用的课程，提供免费的PPT下载，课程中还提到了几个较好的开源项目 里头还说到了强化学习... 以上精选的6本算法和机器学习，深度学习的书籍，欢迎留言和交流。 如需下载这6本书的完整电子版 更多干货： 算法channel关键词和文章索引 深度学习|大师之作，必是精品 SQL|语句执行逻辑 机器学习|PageRank算法原理 冒泡排序到快速排序做的那些优化

  1K50发布于 2018-04-02
• 来自专栏李智的专栏订阅

  DeepLearning tutorial（6）易用的深度学习框架Keras简介

  DeepLearning tutorial（6）易用的深度学习框架Keras简介 致读者：本文写于keras开发初期，目前keras已经迭代到1.0版本，很多API都发生了较大的变化，所以本文的粘贴的一些代码可能已经过时 读者需要的话可以看github上的代码：https://github.com/wepe/MachineLearning 之前我一直在使用Theano，前面五篇Deeplearning相关的文章也是学习 Keras简介 Keras是基于Theano的一个深度学习框架，它的设计参考了Torch，用Python语言编写，是一个高度模块化的神经网络库，支持GPU和CPU。 text-align: right;">

• 1

上面的代码是SGD的使用方法，lr表示学习速率 ,momentum表示动量项，decay是学习速率的衰减系数(每个epoch衰减一次),Nesterov的值是False或者True，表示使不使用Nesterov momentum。