- 综合排序
- 最热优先
- 最新优先
- 来自专栏SuperFeng
机器学习系列11：神经网络
什么是神经网络（Neural Networks）呢？最开始科学家想用算法去模拟大脑达到人工智能。通过一系列的实验发现，大脑是通过神经元进行工作的，神经元之间通过电信号传递信息。 于是他们就开始模拟神经元的工作过程，用算法去模拟神经元，这就形成了神经网络。神经网络可以用来学习复杂的非线性假设模型。 那么现在一个神经元模拟好了，但是大脑肯定不是靠一个神经元工作的，现在开始模拟多个神经元的工作过程，如下图： ? 其中 Layer 1 层模拟输入信号，连线代表信号传递的方向。 每一个神经元也就是假设函数 h_θ(x) 的构造如下： ? ? 表示第 j 层第 i 个神经元。 ? 表示第 j 层神经元的参数矩阵。 类似地，神经网络的代价函数如下： ? 其中： L = 神经网络的层数； S_l= l 层有多少个单元； K = 输出单元的数目。 乍一眼看上去挺复杂，其实类比逻辑回归的代价函数来看，思想都是一样的。
53030发布于 2019-09-26 - 来自专栏机器学习之禅
11 | PyTorch使用nn模块、手工实现神经网络
上一小节对神经网络有了基本的了解，这一小节就看一下如何用代码来实现一个神经网络。 我们所用的案例还是那个温度转换的案例，只不过需要我们把之前的线性模型替换成神经网络模型，并重新训练以找到适合神经网络的权重。 ，目的是把数据转化成单个的样本，如果这里不太明白不要紧，后面会讲 t_u = torch.tensor(t_u).unsqueeze(1) t_u.shape outs: torch.Size([11 就像我们开头的代码里缩写的 t_c = torch.tensor(t_c).unsqueeze(1) 我们用了unsqueeze方法给数据进行升维，升维完成之后就成了一个11 * 1的tensor。 output tensor([[-1.5225], [12.1985]], grad_fn=<AddmmBackward0>) answer tensor([[-4.], [11
64320编辑于 2022-07-11 - 来自专栏PyVision
11种主要神经网络结构图解
---- 标准网络 1 | 感知器（Perceptron） 感知器是所有神经网络中最基本的，也是更复杂的神经网络的基本组成部分。它只连接一个输入神经元和一个输出神经元。 ? 神经元的连通性和权重是随机分配的，忽略层和神经元的差异(跳过连接)。通过学习输出神经元的权重，使网络能够产生和再现特定的时间模式。 8 | 反卷积神经网络(Deconvolutional Neural Network/DNN) 正如它的名字所暗示的那样，反卷积神经网络与卷积神经网络操作相反。 11 | 变分自动编码器(Variational Auto Encoder/VAE) 自动编码器学习一个输入（可以是图像或文本序列）的压缩表示，例如，压缩输入，然后解压缩回来匹配原始输入，而变分自动编码器学习表示的数据的概率分布的参数 原文：https://towardsdatascience.com/11-essential-neural-network-architectures-visualized-explained-7fc7da3486d8
9.6K20发布于 2020-09-02 - 来自专栏自然语言处理
图神经网络11-GCN落地的必读论文：GraphSAGE
3 相关工作 GraphSAGE算法在概念上与以前的节点embedding方法、一般的图形学习监督方法以及最近将卷积神经网络应用于图形结构化数据的进展有关。 一些神经网络方法用于图结构上的监督学习，本文的方法在概念上受到了这些算法的启发 Discriminative embeddings of latent variable models for structured 3.3 Graph convolutional networks 近年来，提出了几种用于图上学习的卷积神经网络结构 Spectral networks and locally connected networks 该f_update功能为任何可微函数，可以再次，是一样简单的平均函数，或复杂如神经网络。 根据节点v的邻域聚合表示和节点v的先前表示，为节点v创建更新的表示： ? label一共七种，包括遗传算法，神经网络，强化学习等7个领域。特征是已经经过stemming和stopwords处理过的词表，每列表示一个词是否出现。
3.4K30发布于 2021-04-27 - 来自专栏ShowMeAI研究中心
深度学习与CV教程(11) | 循环神经网络及视觉应用
自然语言处理教程中的文章 NLP教程(5) - 语言模型、RNN、GRU与LSTM 和 斯坦福NLP课程 | 第6讲 - 循环神经网络与语言模型 1.1 形式 普通的神经网络会有1个固定维度的输入（如1 即使是输入输出尺寸都是固定的情形也可以使用循环神经网络 RNN。 ，让神经网络在一定程度上学会字词的组合规律并能生成自然语言。 深度学习与CV教程(5) | 卷积神经网络 深度学习与CV教程(6) | 神经网络训练技巧 (上) 深度学习与CV教程(7) | 神经网络训练技巧 (下) 深度学习与CV教程(8) | 常见深度学习框架介绍 , VGG, Googlenet, Restnet等) 深度学习与CV教程(10) | 轻量化CNN架构 (SqueezeNet, ShuffleNet, MobileNet等) 深度学习与CV教程(11
1.3K41编辑于 2022-06-09 - 来自专栏贾志刚-OpenCV学堂
使用NNCF(神经网络压缩框架)量化与压缩YOLO11
NNCF提供了一系列的训练时量化与训练后量化神经网络的接口支持，支持ONNX、OpenVINO、Pytorch等多种模型格式的压缩与量化。 pytorch2.6 openvino2025.1 opencv-python4.10 安装NNCF pip install nncf 模型量化与压缩 训练后量化（PTQ）YOLO系列INT8 这里以YOLO11 为例，实现自定义YOLO11对象检测模型的训练后量化，通过PTQ在维持精度的同时大幅提升推理速度。 还是以YOLO11为例， 权重压缩INT8对称模式： 权重压缩INT8非对称模式 运行对比 CPU 酷睿i7 11th 直接同步推理模式下： 使用FP32的流水线异步推理 使用INT8量化版本的YOLO11
11510编辑于 2026-04-02 - 来自专栏炼丹笔记
炼丹侠必知的11大神经网络结构汇总！
时晴,文章框架源于引文[1] 炼丹侠必知的11大神经网络结构汇总！ 简 介 随着深度学习的快速发展，目前已经出现了海量的不同结构的神经网络，本文介绍11种炼丹师都需要知道一点的神经网络结构。 神经元的连接和权值是随机分配的，忽略层和神经元的差异（跳跃连接）。ESN将隐藏层设计成一个具有很多神经元组成的稀疏网络，通过调整网络内部权值的特性达到记忆数据的功能。 ? 8.Deconvolutional Neural Network (DNN) 反卷积神经网络，顾名思义，其性能与卷积神经网络相反。 11.Variational Auto Encoder (VAE) 自动编码器学习输入的压缩表示，而变分自动编码器（VAE）学习表示数据的概率分布的参数。 参考文献 11 Essential Neural Network Architectures, Visualized & Explained deconvolutional networks
1.7K20发布于 2021-05-14 - 来自专栏量子位
提前11秒，AI让神经科学家预知了你的决定
当你在鸡肉饭和牛肉面之间徘徊不定的时候，神经科学家出现了： “别纠结了，你会在11秒之后决定选鸡肉饭。” 诶？我还没决定呢，你怎么知道我会选鸡肉饭？ 一个选择实验 神经科学家的研究来自一项有14名人类受试者参与的实验，当然，这次的选择不是鸡肉饭和牛肉面，而是： ? 根据实时记录下来的大脑活动，使用SVM分类器对10秒的感知或图像数据进行了训练和测试并交叉验证，将四个重点区域逐一分析后，研究人员可以平均提前11秒预知受试者会做出何种选择。 为什么我们明明没有作出选择，神经科学家就知道我们要选什么了呢？ ? 最后，这项研究的相关学者警告，并非所有选择都是由大脑活动提前决定的，所以，你的思维和想法都是自由的，没有什么冥冥中的神经科学想法在指引着你。
51310发布于 2019-04-23 - 来自专栏ShowMeAI研究中心
斯坦福NLP课程 | 第11讲 - NLP中的卷积神经网络
[NLP中的卷积神经网络] 本讲内容的深度总结教程可以在这里 查看。 引言 [NLP中的卷积神经网络] 授课计划 [授课计划] Announcements Intro to CNNs / 卷积神经网络介绍 Simple CNN for Sentence Classification (卷积神经网络相关内容也可以参考ShowMeAI的对吴恩达老师课程的总结文章 深度学习教程 | 卷积神经网络解读 1.1 从RNN到CNN [从RNN到CNN] 循环神经网络不能捕获没有前缀上下文的短语 [CNN卷积神经网络] 1.3 什么是卷积 [什么是卷积？] 例如 POS、NER 卷积神经网络 / CNN：适合分类，较短的短语需要零填充，难以解释，易于在 gpu 上并行化 循环神经网络 / RNN：从左到右的认知更加具有可信度，不适合分类 (如果只使用最后一种状态
1.1K61编辑于 2022-05-16 YOLO11改进 | DGNN-YOLO：基于YOLO11的动态图神经网络用于小目标检测及跟踪
本文介绍了一种名为 DGNN-YOLO的新型框架，该框架将动态图神经网络 (DGNN) 与YOLO11相结合，以解决这些局限性。 深度学习的出现引入了诸如卷积神经网络（CNNs）等现代目标检测框架，通过直接从数据中学习复杂的空间特征，实现了显著的性能提升（Zhang和Chen，2020）。 为了解决这些问题，图神经网络（GNNs）作为一种建模空间-时间关系和动态捕捉目标间交互的有前景的方法（Wang和Zhao，2021）逐渐浮现。 这篇论文介绍了一种新颖的框架DGNN-YOLO，它将YOLO11用于小目标检测和动态图神经网络（DGNN）用于跟踪。 基于YOLO11的检测机制图 2 还显示了DGNN-YOLO框架中的YOLO11架构，该架构旨在提供精确的实时小物体检测。
2K10编辑于 2025-01-23- 来自专栏ATYUN订阅号
我的神经网络不工作了！我应该做什么? 详细解读神经网络的11种常见问题
因此，这里列出了所有你可能做错的11件事情，并根据相关经验，给出解决办法: 1.你忘了使数据标准化 2.你忘记检查结果了 3.你忘了预处理数据 4.你忘了使用正则化 5.你使用的批处理太大 6.你使用的是不正确的学习率 7.你在最后层使用了错误的激活函数 8.你的网络包含了不好的梯度 9.你错误地初始化了网络权重 10.你使用的网络太深了 11.你使用了错误数量的隐藏单元 1.你忘了使数据标准化 -问题描述 当使用神经网络时 8.你的网络包含了不好的梯度 -问题描述 使用ReLU激活函数的深层网络通常会受到所谓的“死神经元”的影响，这种“死神经元”是由不好的梯度引起的。 9.你错误地初始化了网络权重 -问题描述 如果你没有正确地初始化你的神经网络权重，那么你的神经网络根本就不可能训练。 11.你使用了错误数量的隐藏单元 -问题描述 在某些情况下，使用太多或太少的隐藏单元会使你的网络难以进行训练。
2.4K30发布于 2018-03-05 - 来自专栏AI研习社
一篇文章教你用 11 行 Python 代码实现神经网络
声明：本文是根据英文教程 A Neural Network in 11 lines of Python（用 11 行 Python 代码实现的神经网络）学习总结而来，关于更详细的神经网络的介绍可以参考我的另一篇博客 ：从感知机到人工神经网络。 Two Layer Neural Network 首先考虑最简单的神经网络，如下图所示： ? 输入层有3个神经元(因为有3个属性),输出为一个值，w1,w2,w3为其权重。输出为: ? 神经网络的优化过程是： 1. 前向传播求损失 2. 下面我将搭建一个含有5个神经元的隐含层，其图形如下，（自己画的，略丑），这来要说下神经网络其实很简单，只要你把层次的结果想清楚。 ?
974160发布于 2018-03-29 基于yolov11替换卷积神经网CNN为KANConv的python源码+训练源码
Kolmogorov-Arnold网络（Convolutional KANs），这种架构旨在将Kolmogorov-Arnold网络 （KANs）的非线性激活函数 整合到卷积层中，从而替代传统卷积神经网络 与标准的卷积神经网络（CNN）相比，KANConv层引入了更多的参数，因为每个卷积核元素都需要额外的可学习函数。这使得它能够更好地捕捉数据中的空间关系。 多层感知器（MLP）与 Kolmogorov-Arnold 网络（KAN）的比较如下图（摘自论文）： KANs与传统 MLPs在节点（神经元）上使用固定激活函数 不同，KANs在边（权重）上使用可学习的激活函数 【yolov11框架介绍】 2024 年 9 月 30 日，Ultralytics 在其活动 YOLOVision 中正式发布了 YOLOv11。 与之前的版本相比，Ultralytics YOLO11 有哪些关键改进？ Ultralytics YOLO11 与其前身相比引入了多项重大进步。
38810编辑于 2025-07-18- 来自专栏信数据得永生
《Scikit-Learn与TensorFlow机器学习实用指南》第11章 训练深层神经网络
第11章 训练深层神经网络 来源：ApacheCN《Sklearn 与 TensorFlow 机器学习实用指南》翻译项目 译者：@akonwang @飞龙 校对：@飞龙 @Zeyu Zhong 第 10 章介绍了人工神经网络，并训练了我们的第一个深度神经网络。 你可能需要训练更深的 DNN，也许有 10 层，每层包含数百个神经元，通过数十万个连接来连接。 这不会是闲庭信步： 首先，你将面临棘手的梯度消失问题（或相关的梯度爆炸问题），这会影响深度神经网络，并使较低层难以训练。 其次，对于如此庞大的网络，训练将非常缓慢。 最后，我们将浏览一些流行的大型神经网络正则化技术。 使用这些工具，你将能够训练非常深的网络：欢迎来到深度学习的世界！ 阅读全文
24820编辑于 2022-12-01 - 来自专栏三流程序员的挣扎
2022-11-11-工作
昨天的控件点击时通过外面，加个 listener。然后如果外部设定当前选中位置，也要刷新一下页面，所以刷新逻辑放到设置 textSelectedIndex 中去。
26730编辑于 2022-11-13 - 来自专栏SeanCheney的专栏
《Scikit-Learn与TensorFlow机器学习实用指南》 第11章 训练深度神经网络（下）
图11-7 AdaGard vs 梯度下降 对于简单的二次问题，AdaGrad 经常表现良好，但不幸的是，在训练神经网络时，它经常停止得太早。 它通过在第一步中使用指数衰减来实现（见公式 11-7）。 ? 公式11-7 RMSProp算法 它的衰变率β通常设定为 0.9。 这是一个相当简单的算法：在每个训练步骤中，每个神经元（包括输入神经元，但不包括输出神经元）都有一个暂时“丢弃”的概率p，这意味着在这个训练步骤中它将被完全忽略， 在下一步可能会激活（见图 11-9）。 训练后，神经元不会再下降。 这就是全部（除了我们将要讨论的技术细节）。 ? 图11-9 丢失正则化 一开始这个技术是相当粗鲁，这是相当令人惊讶的。 表 11-2 中的配置在大多数情况下都能正常工作。 ? 表11-2 默认的DNN配置 当然，如果你能找到解决类似问题的方法，你应该尝试重用预训练的神经网络的一部分。
1.3K20发布于 2020-10-27 - 来自专栏SeanCheney的专栏
《Scikit-Learn与TensorFlow机器学习实用指南》 第11章 训练深度神经网络（上）
第 10 章介绍了人工神经网络，并训练了我们的第一个深度神经网络。 但它是一个非常浅的 DNN，只有两个隐藏层。 它不支持tensorflow.contrib.framework.arg_scope()（稍后在第 11 章中介绍）。 它不支持正则化的参数（稍后在第 11 章介绍）。 如图 11-3 所示，公式 11-2 给出了它的定义。 ? 整个操作在公式 11-3 中。 ? 公式11-3 批量标准化算法 μB是整个小批量B的经验均值 σB是经验标准差，也是来评估整个小批量的。 mB是小批量中的实例数量。 图11-5 无监督的预训练 这是一个相当漫长而乏味的过程，但通常运作良好。 实际上，这是 Geoffrey Hinton 和他的团队在 2006 年使用的技术，导致了神经网络的复兴和深度学习的成功。
77920发布于 2020-10-27 - 来自专栏SeanCheney的专栏
《机器学习实战：基于Scikit-Learn、Keras和TensorFlow》第11章 训练深度神经网络
如图 11-3 所示，公式 11-2 给出了它的定义。 ? 公式11-2 ELU激活函数 ? 图11-5 无监督的预训练 这是 Geoffrey Hinton 和他的团队在 2006 年使用的技术，导致了神经网络的复兴和深度学习的成功。 图11-7 AdaGard vs 梯度下降 对于简单的二次问题，AdaGrad 经常表现良好，但不幸的是，在训练神经网络时，它经常停止得太早。 这是一个相当简单的算法：在每个训练步骤中，每个神经元（包括输入神经元，但不包括输出神经元）都有一个暂时“丢弃”的概率p，这意味着在这个训练步骤中它将被完全忽略， 在下一步可能会激活（见图 11-9）。 表11-3 默认DNN配置 如果网络只有紧密层，则可以是自归一化的，可以使用表11-4的配置。 ? ? 表11-4 自归一化网络的DNN配置 不要忘了归一化输入特征！
1.8K10发布于 2019-10-25 - 来自专栏静心物语313的Coding
第 11 节： 11-HttpHandler简介
1、新建--》项目--》选中Web项--》Asp.net空Web应用程序--》右键项目---》添加---》一般处理程序（这样建的网站是最好的方法，没有多余的代码生成） 2、新建--》网站--》Asp.net空网站（这是兼容ASP(VB语言 2000年的技术)开发方式）（不推荐用这种方式） 3、.ashx与ashx.cs文件 1）双击ashx文件会直接打开进入ash.cs文件。 2）类Test1实现了IHttpHandler 接口。IHttpHandler接口中的方法在类Test1中进行了重写（页面加载的过程应该是完成了：Shift+Alt+F10） 3）ashx文件中起作用的就是<....Class="Web.Test1">这个。 4）然后会调用这个Test1类中的方法ProcessRequest(HttpContext context):这个方法主要是处理页面的请求。 5）context.Response设置“响应”“context.Request获取“请求” 6）ashx.cs文件其实还是C#文件。网页逻辑编写。主要是这个文件
51010发布于 2020-03-24 - 来自专栏脑洞前端
每日一荐周刊 2019-11-11 - 2019-11-15
2019-11-15[网站] 有的什么我们需要在 Google Play 上下载软件，但是苦于没有通畅的网络(关于如何获取畅通的网络我在 2019-11-01 讲到，感兴趣可以看看)。 网站地址：https://apkpure.com/ 2019-11-14[技巧] 很多时候我们会看到一些英文的简写。 2019-11-13[技巧] 今天要分享的是关于 Bash 中历史记录那些事。 2019-11-12[技巧] dig 命令是常用的域名查询工具，可以用来测试域名系统工作是否正常。 ~ type dig # dig is /usr/bin/dig 2019-11-11[分享] 今天是双十一，大家剁手快乐。
43510发布于 2019-11-26
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号