- 综合排序
- 最热优先
- 最新优先
- 来自专栏瓜大三哥
DeepID2+商汤科技
通过实证研究，文章发现了三深部神经激活的性质：稀疏性、选择性和鲁棒性。（1）可以观察到神经激活是中度稀疏的。适度的稀疏性最大化了深度网以及图像之间的距离。 令人惊讶的是DeepID2+仍能取得较高的识别即使在神经反应是二值的准确性。（2）它的高级神经元对身份具有高度选择性和识别相关的属性。 我们可以识别不同的神经元不断兴奋或兴奋的子集在不同的身份或属性存在时受到抑制。虽然DeepID2+在训练期间不区分属性，但是它更精确地学习了高层的概念。
87850发布于 2018-02-26 - 来自专栏GiantPandaCV
卷积神经网络学习路线（二十一） | 旷世科技 ECCV 2018 ShuffleNet V2
前面已经介绍过MobileNet V1，MobileNet V2，MobileNet V3，ShuffleNet V1这几个针对移动端设计的高效网络，ShuffleNetV2是ShuffleNetV1的升级版 在这里插入图片描述 其中2-fragment-series表示一个block中有2个卷积层串行，也就是简单的堆叠。 而2-fragment-parallel表示一个block中有2个卷积层并行，类似于Inception的整体设计。可以看出在相同FLOPS的情况下，单卷积层(1-fragment)的速度最快。 (c)和(d)是ShuffleNet V2的两种不同结构。 在这里插入图片描述 ShuffleNet V2网络结构 ?
87610发布于 2020-02-21 - 来自专栏小小程序员——DATA
神经网络 模型表示2
神经网络 模型表示2 使用向量化的方法会使得计算更为简便。 以上面的神经网络为例，试着计算第二层的值： 我们令 {{z}^{\left( 2 \right)}}={{\theta }^{\left( 1 \right)}}x ，则 {{a}^{\left( Logistic Regression的方式输出 h_\theta(x) 其实神经网络就像是logistic regression，只不过我们把logistic regression中的输入向量 \left {2}^{\left( 2 \right)}a_{2}^{\left( 2 \right)}+\Theta_{3}^{\left( 2 \right)}a_{3}^{\left( 2 \right)} 这就是神经网络相比于逻辑回归和线性回归的优势。
29210编辑于 2023-12-03 - 来自专栏十二的树洞
人工神经网络学习笔记（2）
如何让网络可以学习 上一篇文章中的神经网络还没有学习能力，这好比如说该网络只接收外部输入并输出结果，却没有反馈机制没有对结果进行正确性分析，让我们以小明与老师之间的对话来比喻这种情况： 老师：1+1=？ 小明：6 老师：1+2=？ 小明：2 … 可以发现，当小明给出答案后老师并没有给于他反馈。因此小明可能某一次猜中了正确答案，但只是凑巧而已，他不具备学习能力。 我们的神经网络也需要具备这样的学习能力。 也就是说，当网络输出错误的结果时要有一个改变下一次输出的机制。想要改变输出，可以改变哪些量呢？ 这太麻烦了，试想那么多的神经元每一个都不同的激活函数会对运算造成大麻烦，将无法采用简洁的矩阵运算。 因此，改变链接权重会是一个好办法。
40410编辑于 2021-12-22 - 来自专栏blog-技术博客
深度学习_1_神经网络_2_深度神经网络
深度神经网络------>卷积神经网络 1，卷积神经网络与简单神经网络的比较 全连接网络的缺点： 参数太多，图片过大时，计算太多 没有利用像素之间位置信息 层数限制 2，卷积神经网络发展史 ? 3，卷积神经网络结构 ? 神经网络：输入层，隐藏层，输出层 卷积神经网络：隐藏层分为 卷积层过滤器：通过在原始图像上平移来提取特征，定义过滤器观察窗口（大小，步长）单位为像素 移动越过图片大小，例如步长过长， :【None,14,14,32】输出：【None，14,14,64】（64个过滤器 ，每层都是32个14*14相加） 激活：输出：【None，14,14,64】 池化：2*2 strides=2 , ksize=[1, 2, 2, 1], strides=[1, 2, 2, 1], padding="SAME") # 4,全连接层 with tf.variable_scope("
70950发布于 2020-05-08 - 来自专栏Lauren的FPGA
学习笔记：神经元模型（2）
神经元模型的另一个重要部分是激活函数，激活函数的本质是向神经网络引入非线性因素，使得神经网络可以拟合各种曲线。 因为激活函数是非线性函数，从而，神经网络的输出不再是输入的线性组合，而是几乎可以逼近任意函数，也就增强了神经网络的表达能力。 ? 这里我们给出三种常用的激活函数，如下图所示。 ?
51220发布于 2020-03-12 - 来自专栏阿泽的学习笔记
【图神经网络】GCN-2（ChebyNet）
Introduction 本文对第一代GCN（《Spectral Networks and Deep Locally Connected Networks on Graphs》）存在的1.计算复杂度高，2. 可复现代码 三、Model 以下内容对入门者需要一些前置知识，可以去阅读一下本号图神经网络前面的内容。 3.4 图池化 图粗化后，将该粗化图添加fake节点使得粗化图中每个顶点都有2个children，构成一个二叉树，将二叉树摊平构成一维信号（上图右部分下），然后对该信号采样即可表示为一次图pooling 标记着带k特征map的graph卷积layer，所有的FCk，Ck，GCk后面都跟着一个ReLU激活函数max(x,0)，最后一个layer是softmax regression，损失能量E是带L2正则化的 是pixel i的2D坐标。 Table 1展示了我们在MNIST上与CNN有类似的效果。 ?
1.2K30发布于 2021-04-29 - 来自专栏前行的CVer
图神经网络2-应用:SketchGCN
首先将输入的草图根据笔画转化为graph，将笔画变成密集的N个点（图中仅画出部分点作示意），同一笔画中的点是有边相连的，不同笔画中的点是不相连的，每个点存储它的绝对坐标（即节点特征是二维的），将节点特征（2*
64410发布于 2021-03-04 - 来自专栏机器学习和数学
卷积神经网络入门教程（2）
BP反向传播算法是对全连接神经网络的一种训练过程，他其实就是梯度下降+链式求导法则组成。2.一般的CNN也包括全连接层，全连接层前面的卷积层，下采样层都是直接对像素进行操作（有没有很熟悉？ 神经元里面写的f1，f2, f3, f4, f5 这些是激活函数，也就是输入和权重相乘相加（相爱相杀）之后得到的值在作为函数f的输入，其他同理。 ? 图1（如果显示不完全，请点开看大图） Step 1：由输入x1，x2组成的输入向量和权重w1，w2相乘得到的值作为f1的输入，计算结果y1作为Hidden 2 的第一个输入向量。 图2-6 Step 2: 图7是根据ｙ的值计算损失，ｚ是真实值，真实值和预测值之差就得到我们的损失。 ? 图8-12 Step 4：Step 4开始利用梯度下降法计算新的权重参数，计算新的参数的过程就是神经网络的训练过程，神经网络的学习过程就是计算参数的过程，当全部参数都更新完的时候，神经网络就完成了一次训练
83840发布于 2018-04-11 - 来自专栏新智元
远程操控神经的高科技诞生
，可以通过智能手机控制的微型大脑植入物来控制神经回路。 光遗传学是一门新兴的生物技术领域，神经科学家可以往受试者的神经元注入视蛋白基因，然后利用光线控制活体组织中的神经元。 向大脑传输药物和光的传统方法通常会利用刚性金属管和光纤。 虽然科学家对传统方法做了一些改进——利用结合软探针和无线平台改良设备，减轻生物体的不良组织反应——但仍无法实现长时间的药物输送（传统设备的术后寿命为2周）。 其中，神经器件是光流控的；药物输送则通过加热器的热驱动实现。 ? “无线光流控脑探头”组装图像 由于可替换药盒的存在，神经科学家不用担心药物耗尽。 “它让我们能够更好地剖析行为的神经回路基础，以及大脑中特定神经调节器的作用，”Bruchas说，“我们也渴望将该设备用于复杂的药理学研究，帮助我们开发新的治疗疼痛、成瘾和情绪障碍的方法。”
1.4K10发布于 2019-08-20 - 来自专栏ATYUN订阅号
【科技】神经网络使我们能够以新的方式“读懂人脸”
其他由神经网络驱动的图像识别技术正在开发中，包括阅读自动驾驶标志和自动检测机场安全扫描仪中的武器。 近年来，神经网络也使得面部分析等技术更加精确。 在这种情况下，神经网络可以把注意力集中在亮度而不是面部表情上，但似乎可以看到面部的链接。 让神经网络来解释他们如何分析图像是他目前研究的重点。 Yilun Wang 表示：“我可以看到改善(视觉图像和面部识别神经网络)性能的方法，但却没有看到达到百分之百的方法。” 研究人员说，在神经网络能够可靠地用于更多安全关键领域的面部识别之前，可能还需要一段时间。
78350发布于 2018-03-02 - 来自专栏GiantPandaCV
卷积神经网络学习路线（十九） | 旷世科技 2017 ShuffleNetV1
前言 这是卷积神经网络学习路线的第19篇文章，主要为大家介绍一下旷世科技在2017年发表的ShuffleNet V1，和MobileNet V1/V2一样，也是一个轻量级的卷积神经网络，专用于计算力受限的移动设备 相关工作 高效模型设计：卷积神经网络在CV任务中取得了极大的成功，在嵌入式设备上运行高质量深度神经网络需求越来越大，这也促进了对高效模型的研究。 方法 针对组卷积的通道混洗 现代卷积神经网络会包含多个重复模块。 Figure2 a是做下采样的ShuffleNet unit，这里主要做了2点修改，在辅分支加入了步长为2的平均池化，原本做元素相加的操作转为了通道级联，这扩大了通道数，增加的计算成本却很少。 受此启发，在原结构的阶段3删除2个单元，即表2中arch2结构，放宽对应的特征映射，明显新的架构效果要好得多。
1.3K20发布于 2020-02-21 - 来自专栏杂七杂八
神经网络训练细节part2（上）
回顾 训练神经网络的过程有四步组成，重复这四个步骤就可以得到完整的训练流程 需要有一个完整的数据集图像和标签，从数据集中取出一小批样本 通过网络做前向传播得到损失，考察分类效果 然后通过反向传播来得到每一个权重的梯度 Adagrad # 假设有梯度和参数向量x cache += dx**2 x += - learning_rate * dx / (np.sqrt(cache) + eps) RMSprop cache = decay_rate * cache + (1 - decay_rate) * dx**2 x += - learning_rate * dx / (np.sqrt(cache) + eps) Adam m = beta1*m + (1-beta1)*dx v = beta2*v + (1-beta2)*(dx**2) x += - learning_rate * m / (np.sqrt(v
54620发布于 2018-08-30 - 来自专栏Michael阿明学习之路
01.神经网络和深度学习 W2.神经网络基础
2. 逻辑回归 ? 3. 逻辑回归损失函数 image.png 5. 导数 函数在某一点的斜率，在不同的点，斜率可能是不同的。 6. 计算图导数计算 链式求导法则： ? 7. -week2.html J=0; dw1=0; dw2=0; db=0; for i = 1 to m z(i) = wx(i)+b; a(i) = sigmoid(z(i)); += x2(i)dz(i); db += dz(i); // 求平均值 J /= m; dw1 /= m; dw2 /= m; db /= m; // 更新参数 w, b w = w [[101 102 103 104]] 例2 A = np.array([[1, 2, 3], [4, 5, 6]]) B = np.array([100, 200, 300 总是使用 nx1 维矩阵（列向量），或者 1xn 维矩阵（行向量） 为了确保所需要的维数时，不要羞于 reshape 操作 作业 01.神经网络和深度学习 W2.神经网络基础（作业 - 逻辑回归 图片识别
56210发布于 2021-02-19 - 来自专栏Mybatis学习
Tensorflow2——卷积神经网络的搭建
Tensorflow2卷积神经网络的搭建 1、卷积神经网络 Fasion_minst识别卷积神经网络搭建代码 2、卫星图像识别卷积综合实例 1） 图片的数据读取部分 2）读取和解码图片 3）图片预处理 1、卷积神经网络 CNN最大的特点就是在于卷积的权值共享，利用空间结构减少学习的参数量，防止过拟合的同时减少计算量。 在卷积神经网络中，第一个卷积层直接接受图像像素级的输入，卷积之后传给后面的网络，每一层的卷积操作相当于滤波器，对图像进行特征提取，原则上可保证尺度，平移和旋转不变性。 卷积神经网络的好处在于，参数数量只与滤波器数目和卷积核大小有关，与输入图像尺寸无关。总结一下CNN的要点：局部连接，权值共享，池化（降采样）。 这个过程表现为feature map长宽减小，channel增加，所以卷积神经网络的卷积核数目逐层增加或不变 Fasion_minst识别卷积神经网络搭建代码 import tensorflow as
1.4K20发布于 2021-06-21 - 来自专栏机器学习/数据可视化
图神经网络2-图表征学习
下面介绍3大图表征学习方法：传统图嵌入方法现代图嵌入方法图神经网络传统图嵌入方法图嵌入的2个目标：重建原始图结构和支持图推理。 采用拉普拉斯特征映射LE的思想保留一阶接近度M-NMF：模块化非负矩阵因子化模型（2）保留图属性的图表征学习重点：保留所有类型图的传递性和有符号图的结构平衡性带有侧面信息的图表征学习侧面信息可以分为两类 （2）异质图表征学习异质图由不同类型的节点和边组成。保留高级信息的图表征学习高级信息指的是特征任务中的监督或者伪监督信息。 （2）异常检测图中的异常检测旨在推断结构上的不一致。（3）图对齐图对齐的目标是建立两个图中节点之间的关系，即预测两个图之间的锚链接。 图神经网络基于深度学习方法分析图数据的挑战：图的不规则结构图的异质性和多样性大规模图的出现学科交叉与融合与图相关的神经网络结构：图循环神经网络Graph RNN图卷积神经网络GCN图自编码器GAE图强化学习
1.1K00编辑于 2023-11-23 - 来自专栏MelonTeam专栏
跬步神经网络2-C++简单实现
导语 不考虑性能，用c++简单实现NN网络，通过训练预测 XOR、AND、OR 目录 跬步神经网络1-基本模型解析 跬步神经网络2-C++简单实现 跬步神经网络3-MNIST手写库初步识别 跬步1 了解了bp神经网络的原理，这次动手实践。 Session 代表一套NN网络，可以配置激活函数、损失函数、数据填充方法等 Layer 代表网络中的一层，包含一个或者多个Unit Unit 代表神经元，实现了 UpdateO(更新输出值) 建立 2,2,1的网络，随机填充 2. 使用相同的网络、相同的参数（lr=0.013），设置不同的激活函数，开始训练 XOR 3. 测试2 - (LogicFitting::run1) : 1.
89880发布于 2018-01-04 - 来自专栏新智元
英伟达黑科技登场！RTX神经纹理压缩，显存用量狂减96%
在显卡技术不断迭代的当下，NVIDIA再次凭借其前沿创新，吸引了全球科技爱好者的目光。 RTX神经纹理压缩（NTC）技术在beta测试演示中的表现，堪称惊艳。 而「样本推理」模式更是一骑绝尘，将纹理内存进一步压缩至仅11.37MB，与非神经压缩相比，内存使用量降低了95.8%，相比以前的神经压缩模式减少了88%。 2. 旧GPU能用NTC技术吗，会有效果吗？ NTC主要是为RTX 20系列GPU设计的，但旧的GTX 10系列显卡也能用。 不过，新的支持NTC的GPU用起来效果更好，能最大程度发挥NTC的优势。 RTX神经纹理压缩技术的出现，无疑为游戏行业的未来发展指明了新的方向。 从玩家的角度来看，RTX神经纹理压缩技术将带来更加沉浸式的游戏体验。
98410编辑于 2025-02-15 - 来自专栏存储公众号：王知鱼
忆芯科技：Flash2DRAM 动态数据加载
Fig-2 AI/ML 存储IO路径 右下角图示分析 1. Traditional I/O（传统 I/O） 数据从存储设备通过网络接口（NIC）传输到 CPU。 2. GPU Direct I/O（GPU 直连 I/O） 数据从存储设备直接通过网络接口（NIC）传输到 GPU 内存。 避免了通过 CPU 和系统内存的中转路径，显著降低延迟和提高数据传输效率。 2. 操作系统与驱动支持 Linux 环境 GPUDirect Storage 当前主要支持 Linux，推荐使用 NVIDIA 提供的优化内核（如 RHEL 或 Ubuntu）。 DRAM（在计算存储设备中） 包含 SSD 的 L2P（逻辑到物理）映射表，用于 4K/8K/16K 大小的映射。 提供小模型的运行时环境，动态预测和加载需要的权重。
52100编辑于 2025-02-11 - 来自专栏智能仓储物流技术研习社
前沿|国外的物流自动化黑科技-2
古人云“师夷长技以制夷”，我们国内在闷头自己搞自己的智能仓储物流自动化各种设计，应用和落地的项目时，也应该抽出时间来看一下国际上有哪些所谓的黑科技？ 继上篇介绍的爬升多穿车Rack Racer, 我们再来看看还有其他的黑科技。
62830发布于 2020-04-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号