- 综合排序
- 最热优先
- 最新优先
- 来自专栏计算机视觉
训练神经网络的7个技巧
前言 神经网络模型使用随机梯度下降进行训练，模型权重使用反向传播算法进行更新。 在本文中，您将了解在训练神经网络模型时如何充分利用反向传播算法的技巧和诀窍。 训练神经网络的挑战在训练数据集的新示例之间取得平衡； 七个具体的技巧，可帮助您更快地训练出更好的神经网络模型。 训练神经网络的目标是在这两方面找到一个良好的平衡。 八、技巧7：选择学习率 学习率是模型权重在算法的每次迭代中更新的量。较小的学习率可能导致收敛较慢，但可能得到更好的结果，而较大的学习率可能导致更快的收敛，但可能得到不太理想的结果。 参考：vx公众号：Google数据科学、深蓝AI 总结 神经网络训练是一个非常复杂的过程，在这过程中，许多变量之间相互影响，因此在这过程中，很难搞清楚这些变量是如何影响神经网络的。
38910编辑于 2024-03-19 - 来自专栏机器学习算法与Python学习
Torch7搭建卷积神经网络详细教程
本篇博文主要讲述在Torch7中神经网络如何建立以及相关的原理（即神经网络包NN的内容），虽然讲述的是神经网络的建立。 但是不会涉及太多神经网络的知识，假如你对该领域不是很了解，可以去之前的几篇博文里面充充电。 首先简单的介绍一下Torch7中的神经网络工具包，该包是由不同的模块组合而成。 很自然的，有了性能指标之后我们需要考虑如何优化该性能指标，这儿分为两种，一种是使用Torch7内部的优化函数包Optim来优化（简单，上手快），另一种则是采用迭代法更新权值（该方法一般用于简单的网络，当存在卷积层时 首先将Torch7中的nn包导入到工作区(注意语句结束加“；”)，这儿使用require关键字，如下所示。 ? 2. 7. 将三维的Tensor转换成一维的Tensor,如下所示。 ? 8. 添加16*6*6=576与200的线性全连接层，如下所示。 ? 9. 添加激活函数，如下所示。 ? 10.
1K140发布于 2018-04-08 - 来自专栏AI机器视觉
阿丘科技之AIDI高级功能讲解三（7）
7.1 模型管理 基本操作： 添加模型：在模型管理窗口中空白处右键，以当前模型为基准复制一个模型，创建后新模型和当前模型完全一致。 切换当前模型：在模型管理窗口中对应模型记录条目勾选，选中后此模型切换为当前模型，同时切换参数和测试结果中整体指标。 删除模型：在模型管理窗口中对应模型记录条目右侧删除按钮，删除对应模型 清空模型管理：在模型管理窗口中空白处右键，删除所有模型。清空后程序将自动重新添加一个空模型。 ! 多次训练会不断覆盖当前模型 7.2 模块串联 添加多个模块： 点击模块图标中的加号按钮，选
2.3K20编辑于 2022-06-01 - 来自专栏新智元
远程操控神经的高科技诞生
，可以通过智能手机控制的微型大脑植入物来控制神经回路。 向大脑输送药物和光线 在现代生物学研究中，为了理解神经元的功能、帮助寻找针对神经疾病的药物，科学家往往需要直接向活体动物的脑部传输特定的药物与光线并追踪这些药物与光线对生物体的后续影响，即通过药物理解不同的脑细胞在特定生理活动 光遗传学是一门新兴的生物技术领域，神经科学家可以往受试者的神经元注入视蛋白基因，然后利用光线控制活体组织中的神经元。 向大脑传输药物和光的传统方法通常会利用刚性金属管和光纤。 其中，神经器件是光流控的；药物输送则通过加热器的热驱动实现。 ? “无线光流控脑探头”组装图像 由于可替换药盒的存在，神经科学家不用担心药物耗尽。 “它让我们能够更好地剖析行为的神经回路基础，以及大脑中特定神经调节器的作用，”Bruchas说，“我们也渴望将该设备用于复杂的药理学研究，帮助我们开发新的治疗疼痛、成瘾和情绪障碍的方法。”
1.4K10发布于 2019-08-20 - 来自专栏ATYUN订阅号
【科技】神经网络使我们能够以新的方式“读懂人脸”
其他由神经网络驱动的图像识别技术正在开发中，包括阅读自动驾驶标志和自动检测机场安全扫描仪中的武器。 近年来，神经网络也使得面部分析等技术更加精确。 在这种情况下，神经网络可以把注意力集中在亮度而不是面部表情上，但似乎可以看到面部的链接。 让神经网络来解释他们如何分析图像是他目前研究的重点。 Yilun Wang 表示：“我可以看到改善(视觉图像和面部识别神经网络)性能的方法，但却没有看到达到百分之百的方法。” 研究人员说，在神经网络能够可靠地用于更多安全关键领域的面部识别之前，可能还需要一段时间。
78350发布于 2018-03-02 - 来自专栏GiantPandaCV
卷积神经网络学习路线（十九） | 旷世科技 2017 ShuffleNetV1
前言 这是卷积神经网络学习路线的第19篇文章，主要为大家介绍一下旷世科技在2017年发表的ShuffleNet V1，和MobileNet V1/V2一样，也是一个轻量级的卷积神经网络，专用于计算力受限的移动设备 介绍 当前很多CNN模型的发展方向是变得更大，更深，这让深度卷积神经网络的准确率更高，但难以运行在移动设备上，针对这一问题，许多工作的重点放在对现有预训练模型的剪枝，压缩或使用低比特表示。 相关工作 高效模型设计：卷积神经网络在CV任务中取得了极大的成功，在嵌入式设备上运行高质量深度神经网络需求越来越大，这也促进了对高效模型的研究。 方法 针对组卷积的通道混洗 现代卷积神经网络会包含多个重复模块。
1.3K20发布于 2020-02-21 - 来自专栏深度学习和计算机视觉
7大类卷积神经网络(CNN)创新综述
深度卷积神经网络（CNN）是一种特殊类型的神经网络，在各种竞赛基准上表现出了当前最优结果。 根据架构修改的类型，CNN 可以大致分为 7 类：基于空间利用、深度、多路径、宽度、通道提升、特征图利用和注意力的 CNN。深度 CNN 架构的分类如图 3 所示。 2001 年，Csáji 表示了通用近似定理，指出单个隐藏层足够逼近任何函数，但这需要指数级的神经元，因而通常导致计算上行不通。 Lu 等人和 Hanin & Sellke 最近表明，带有线性整流激活函数的神经网络要足够宽才能随着深度增加保持通用的近似特性。 （CNN）是一种特殊类型的神经网络，在各种竞赛基准上表现出了当前最优结果。
1.1K20编辑于 2022-09-28 - 来自专栏计算机视觉
7大类卷积神经网络(CNN)创新综述
深度卷积神经网络（CNN）是一种特殊类型的神经网络，在各种竞赛基准上表现出了当前最优结果。 根据架构修改的类型，CNN可以大致分为7类：基于空间利用、深度、多路径、宽度、通道提升、特征图利用和注意力的CNN。深度CNN架构的分类如图3所示。 1、基于空间利用的CNN CNN有大量参数，如处理单元数量（神经元）、层数、滤波器大小、步幅、学习率和激活函数等。 7、基于注意力的CNN 不同的抽象级别再定义神经网络的鉴别能力方面有着重要的作用。除此之外，选择与上下文相关的特征对于图像定位和识别也很重要。在人类的视觉系统中，这种现象叫做注意力。 （CNN）是一种特殊类型的神经网络，在各种竞赛基准上表现出了当前最优结果。
80910编辑于 2024-10-25 - 来自专栏镁客网
「黑科技」iPhone7能“飞”起来，你敢相信吗？
不过，iPhone7的概念设计或许能治好你多年的选择困难症了！ 据今日YouTube用户Sonitdac提出的脑洞打开的想法，iPhone7将会自带“喷气式降落功能”。 看完视频小编灵感一闪，如果这个天马行空的设计再与前一段时间镁客网报道的苹果新专利“为电子设备所设的主动屏幕防护”结合，iPhone7也许会如落叶般完美落地。效果图将如下： ? 当iPhone7紧急降落的时候，手机屏幕四角自动伸出可伸缩的凸出小装置，在玻璃和地面之间形成缓冲带，再加上二氧化碳喷气箱的护航，iPhone7如同“飞”下来的，有木有？
82420发布于 2018-05-25 - 来自专栏产品运营分享
7个帮你打开新世界大门的黑科技网站
图片 网易见外 https://jianwai.netease.com 网易见外是网易出品的一个多功能黑科技网站。 它支持每日 2 小时免费体验，它支持的黑科技实用功能包括：视频翻译、视频转写、字幕翻译、文档翻译、语音翻译、语音转写、会议同传、图片翻译，每个功能都是非常实用。 图片 工具 123 http://www.gjw123.com/ 工具 123 是一个聚合了 1000 多个实用工具的黑科技网站。
2.1K40编辑于 2023-03-23 - 来自专栏新智元
英伟达黑科技登场！RTX神经纹理压缩，显存用量狂减96%
在显卡技术不断迭代的当下，NVIDIA再次凭借其前沿创新，吸引了全球科技爱好者的目光。 RTX神经纹理压缩（NTC）技术在beta测试演示中的表现，堪称惊艳。 而「样本推理」模式更是一骑绝尘，将纹理内存进一步压缩至仅11.37MB，与非神经压缩相比，内存使用量降低了95.8%，相比以前的神经压缩模式减少了88%。 RTX神经纹理压缩技术的出现，无疑为游戏行业的未来发展指明了新的方向。 从玩家的角度来看，RTX神经纹理压缩技术将带来更加沉浸式的游戏体验。 此外，RTX神经纹理压缩技术还有望在虚拟现实（VR）和增强现实（AR）领域发挥重要作用。
98410编辑于 2025-02-15 - 来自专栏ShowMeAI研究中心
深度学习与CV教程(7) | 神经网络训练技巧 (下)
代码如下： eps = 1e-7 grad_squared = 0 while True: dW = compute_gradient(W) grad_squared += dW * dW 2.1 正则化的动机 当我们增加神经网络隐藏层的数量和尺寸时，网络的容量会上升，即神经元可以合作表达许多复杂函数。例如，如果有一个在二维平面上的二分类问题。 我们可以训练 3 个不同的神经网络，每个网络都只有一个隐藏层，但是隐藏层的神经元数目不同，结果如下： [正则化; 隐藏层神经元数目不同] 在上图中，可以看见有更多神经元的神经网络可以表达更复杂的函数。 [正则化; 改变正则化强度] 上图每个神经网络都有 20 个隐藏层神经元，但是随着正则化强度增加，网络的决策边界变得更加平滑。所以，正则化强度是控制神经网络过拟合的好方法。 [Dropout 随机失活; 核心思路] 一个三层的神经网络 Dropout 示例代码实现： """ 普通版随机失活""" p = 0.5 # 神经元被激活的概率。
76662编辑于 2022-06-01 - 来自专栏AI研习社
7个深度神经网络可视化工具，不可错过！
Netscope 是一个支持 prototxt 格式描述的神经网络结构的在线可视工具。 参考阅读： Netscope: 支持 Caffe 的神经网络结构在线可视化工具 Caffe 学习系列 (18): 绘制网络模型 Caffe 学习系列——工具篇：神经网络模型结构可视化 深度网络的设计与可视化工具 PlayGround 是一个图形化用于教学目的的简单神经网络在线演示、实验的平台，非常强大地可视化了神经网络的训练过程。 ? 参考阅读： [知乎] 谁能详细讲解一下 TensorFlow Playground 所展示的神经网络的概念？ CNNVis，帮助机器学习专家更好的理解、分析、设计深度卷积神经网络。
15.3K42发布于 2018-03-19 - 来自专栏全栈程序员必看
idea 配置Maven(哈弗f7x科技版配置)
新写的文章地址链接：https://weixiaodyanlei.xyz/archives/idea-chuang-jian-maven-gong-cheng#SnMnpRGS
44920编辑于 2022-07-25 - 来自专栏腾讯云技术沙龙
7分钟读懂《科技驱动教育,AI连接未来》沙龙重点
6月23日，腾讯腾讯云开发者社区推出了“科技驱动教育,AI连接未来，在线教育个性化教学技术实践”沙龙活动。 小程序实时音视频在互动教育场景下的应用 刘连响，一起玩耍科技创始人。2013年起开始研究WebRTC, 对音视频处理、直播、实时音视频相关技术非常感兴趣, 多个实时音视频产品研发经验。 社会世界化连接的初步建立，科技的智能化发展，都对未来的科技教育提供了一定的物质基础。 VIPKID的创新住处在于： 1、 教育资源创新。
5.3K40发布于 2018-07-02 - 来自专栏思影科技
思影科技啮齿类动物（大小鼠）神经影像数据处理业务
2、张量构建与指标计算 思影根据不同的数据类型以及客户的不同需求，可构建多种弥散模型（如弥散张量DTI、弥散峰度成像DKI、神经突强度和散度成像NODDI等等）并计算对应的弥散指标。 ?
1.9K20发布于 2020-04-01 - 来自专栏机器之心
7 Papers & Radios | 谷歌等用神经网络给照片打光；沈向洋等神经语言处理综述
机器之心 & ArXiv Weekly Radiostation 参与：杜伟、楚航、罗若天 本周的重要论文有谷歌等研究机构用神经光传输为照片二次打光的探索，以及沈向洋等从建模、学习和推理三方面展开的神经 uri=optica-7-8-900 摘要：想象一下，你闭着眼睛朝一只动物大吼，然后根据回声就能判断这只动物是猫是狗。听起来是不是很不可思议？ Shum 链接：https://www.sciencedirect.com/science/article/pii/S2095809919304928 摘要：在这篇论文中，包括沈向洋在内的几位研究者对基于神经网络的神经语言处理框架进行了综述 文章最后，研究者展望了神经语言处理的未来发展方向。 ? 与上下文无关的词嵌入方法。 ? 基于 RNN 的上下文感知词嵌入方法。 ? 基于自注意力的上下文感知词嵌入方法。 这些黑科技玩法不限机型，可让用户在手机上无门槛的实时体验，给用户带来全新的视觉体验和交互方式的同时，可帮助用户更好的进行创作。
60140发布于 2020-08-18 - 来自专栏新智元
7篇必读ACM MM 2019论文：图神经网络+多媒体
图神经网络在多媒体领域应用非常多，本文整理了七篇ACM MM 2019最新GNN相关论文，并附上论文链接供参考——个性化推荐、短视频推荐、多视频摘要、基于文本的行人搜索、视频关系检测、社区问答（CQA） 图神经网络在多媒体领域应用非常多，本文整理了七篇ACM MM 2019最新GNN相关论文，并附上论文链接供参考——个性化推荐、短视频推荐、多视频摘要、基于文本的行人搜索、视频关系检测、社区问答（CQA） 我们基于图神经网络的消息传递思想设计了一个多模态图卷积网络（MMGCN）框架，该框架可以生成用户和微视频的特定模态表示，以更好地捕获用户的偏好。 为了获得群体图像的鲁棒表示，我们设计了一种域转移图神经网络（DoT-GNN）方法。优点包括三个方面：1）风格转移。 doid=3343031.3351058 7.
1.1K40发布于 2019-11-11 - 来自专栏CVer
看了这7篇论文，你会完全掌握卷积神经网络！
目前，作为深度学习的代表算法之一，卷积神经网络（Convolutional Neural Networks，CNN）在计算机视觉、分类等领域上，都取得了当前最好的效果。 ? 后来，基于深度神经网络和搜索树的智能机器人“AlphaGo”在围棋上击败了人类，这是CNN 给人们的一个大大的惊喜。 可以说，卷积神经网络是深度学习算法应用最成功的领域之一。 目前，CNN应用也十分广泛。 而研读卷积神经网络的经典论文，对于学习和研究卷积神经网络必不可缺。 今天，给大家推荐一些资料，有论文、知识图谱。 7份经典学术论文 这些论文大部分都发表在计算机视觉顶级学术会议上。 这7份论文资料，100p以上的内容体量。建议收藏学习。 01 resnet ? 02 CNN ? 03 batchnorm ? 04 alexnet ? 05 visualzing ?
1K40发布于 2020-08-06 - 来自专栏企鹅号快讯
大牛教你使用7种卷积神经网络进行物体检测！
因此可以想象我们在前面介绍的基于卷积神经网络的图片分类可以被应用到这里。 这是基于卷积神经网络的物体检测的奠基之作。 其核心思想是在对每张图片选取多个区域，然后每个区域作为一个样本进入一个卷积神经网络来抽取特征，最后使用分类器来对齐分类，和一个回归器来得到准确的边框。 ] [ 4. 5. 6. 7.] [ 8. 9. 10. 11.] [ 12. 13. 14. 15.]]]] 总结 我们描述了基于卷积神经网络的几个物体检测算法。他们之间的共同点在于首先提出锚框，使用卷积神经网络抽取特征后来预测其包含的主要物体和更准确的边框。
1.5K100发布于 2018-01-16
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号