- 综合排序
- 最热优先
- 最新优先
- 来自专栏AiCharm
深度学习相关概念：4.计算图与反向传播
计算图 在了解反向传播之前，我们必须首先明白什么是计算图，当只有构成计算图时，数据才能通过反向传播进行更新。 计算图是一种有向图，它用来表达输入、输出以及中间变量之间的计算关系，图中的每个节点对应着一种数学运算。 例如函数f=(x+y)²的计算图如下所示 这里假设x=1，y=2，则z=x+y=3，f=z²等于9，计算 又因为z对于x的导数 z对于y的导数 根据链式法则即可求出 计算图总结 但是大部分情况是另一种情况，他把所有的算法都拆解成计算图，那么拆解的计算图了以后，那这样的话你不用自己求导函数，因为这种标准的分解流程它可以子在神经网络中写成标准的程序，它能帮你标准的完成这件事情。 这就是计算图的颗粒度问题，计算块颗粒度小，计算慢；但颗粒度越大，你就要自己写求导函数，这就是计算图的颗粒度，它跟效率有关系。
99010编辑于 2023-05-15 - 来自专栏NebulaGraph 技术文章
图计算 on nLive：Nebula 的图计算实践
[图计算 on nLive：Nebula 的图计算实践] 取节点 2 的邻居，节点 2 的邻居是范围是 2~6，这样对应的邻居就是 1、3、4、5，这就是 CSR。 API 调用的流程如上图所示，主要分为 4 步： 自定义数据源 df（id 为数值型数据） 定义算法配置 louvainConfig 执行算法 对算法结果统计计算或直接展示 上图的代码部分则为具体的调用示例 有了数值类型的 ID 之后，我们将映射之后的 ID 数据（蓝色框）和原始的边数据（方框 1）进行 Join 操作，得到一个编码之后的边数据（方框 4）。 以公安为例，通过公安数据进行人、车、网吧、酒店等实体抽取，即图数据库中可以分成这 4 个 tag（人、车、网吧、酒店），基于用户的动态数据抽象出拥有关系、同行关系、同住关系，即对应到图数据库中的 Edge 以上为图计算 on nLive 的分享，你可以通过观看 B站视频：https://www.bilibili.com/video/BV1rR4y1T73V 查看完整的分享过程。
2.6K40编辑于 2022-02-22 - 来自专栏Python与算法之美
动态计算图
Pytorch底层最核心的概念是张量，动态计算图以及自动微分。 本节我们将介绍 Pytorch的动态计算图。 包括： 动态计算图简介 计算图中的Function 计算图和反向传播 叶子节点和非叶子节点 计算图在TensorBoard中的可视化 一，动态计算图简介 ? 第一层含义是：计算图的正向传播是立即执行的。无需等待完整的计算图创建完毕，每条语句都会在计算图中动态添加节点和边，并立即执行正向传播得到计算结果。 第二层含义是：计算图在反向传播后立即销毁。 下次调用需要重新构建计算图。 ) y1 grad: tensor(-4.) loss.grad: tensor(1.) x.grad: tensor(4.)
2.9K30发布于 2020-07-20 - 来自专栏GiantPandaCV
回炉重造：计算图
有的，那就是我们需要说的计算图 计算图 我们借用「图」的结构就能很好的表示整个前向和后向的过程。形式如下 ? 我们再来看一个更具体的例子 ? （这幅图摘自Paddle教程。 我们的数据为4x4矩阵 ? 这里我们只关注卷积核左上角元素W1的求导过程 在stride=1，pad=0情况下，他的移动过程是这样的 ? 因此池化层需要将梯度传递到前面一层，而自身是不需要计算梯度优化参数。 也是按照上面计算图的思想，把整个运算逻辑抽象成一张「数据流图」 ? 在静态图里我们可以优化到同一层级，乘法和加法同时做到 总结 这篇文章讲解了计算图的提出，框架内部常见算子的反向传播方法，以及动静态图的主要区别。
3.5K20发布于 2020-08-10 - 来自专栏网络收集
图表4 饼图
4、图表4 饼图1.饼图的实现步骤步骤1 ECharts 最基本的代码结构<! 步骤3 准备配置项 在 series 下设置 type:pievar option = { series: [{ type: 'pie', data: pieData }]}图片注意:饼图的数据是由 name 和 value 组成的字典所形成的数组饼图无须配置 xAxis 和 yAxis2.饼图的常见效果显示数值label.show : 显示文字label.formatter : 格式化文字var return arg.data.name + '平台' + arg.data.value + '元\n' + arg.percent + '%' } } }]}南丁格尔图南丁格尔图指的是每一个扇形的半径随着数据的大小而不同
1.2K10编辑于 2022-06-16 - 来自专栏技术成长
图的排序计算和传播计算
图片图的排序计算一种流行的拓扑排序算法是Kahn算法，具体步骤如下：统计每个顶点的入度（即有多少个顶点指向该顶点）。将入度为0的顶点加入到一个队列中。 重复步骤3和步骤4，直到队列为空。处理有环图的拓扑排序问题：如果一个图存在环，那么无法进行拓扑排序。在Kahn算法中，如果最后还存在入度不为0的顶点，那么说明图中存在环。 图的传播计算一种常见的图传播模型是SIR模型，该模型描述了病毒传播的过程。下面是对SIR模型的简要介绍：SIR模型SIR模型将一个图表示为一个网络，网络中的节点代表个体，边表示节点之间的联系。 预测信息在网络中的传播路径可以基于以下的图算法：广度优先搜索 (BFS)：该算法从某个指定的节点出发，在图中逐级扩展搜索，以找到特定节点或满足特定条件的节点。 DFS通常比BFS更适用于探索图的整个结构，而不仅仅是在最短路径上进行搜索。PageRank算法：PageRank算法是一种将节点排名按照重要性进行排序的算法。
1K61编辑于 2023-10-29 - 来自专栏技术成长
图的社区计算和嵌入计算
图片图的社区计算社区发现是指在一个图中，将节点分割成若干个互不相交的子集，使得子集内节点之间的连接更加密集，而子集之间的连接较为稀疏。 计算加入后的总模度增益，如果增益为正，则将节点加入社区；否则不加入。重复步骤4，直到所有节点都尝试加入相邻社区。将每个社区合并为一个节点，构建新的图。重复步骤2至步骤6，直到不能再有节点加入社区为止。 以上是一种用于发现社区的算法，但并不是唯一的方法，还有许多其他的社区发现算法可以应用于不同的情况和图结构。图的嵌入计算图嵌入是将一个图映射到低维空间中的过程。 MDS可以用于对图的邻接矩阵计算节点的向量表示。局部线性嵌入（LLE）：LLE是一种非线性降维方法，它通过将每个节点表示为其邻居节点的线性组合的方式来进行降维。 图注意力网络（GAT）：GAT是一种使用注意力机制的图嵌入方法，它能够自适应地学习每个节点与其邻居节点之间的关系。GAT可以通过多层注意力操作来计算节点的向量表示。
1.1K92编辑于 2023-10-30 - 来自专栏TechBlog
PyTorch: 计算图与动态图机制
文章目录 计算图 PyTorch的动态图机制 计算图 计算图是用来描述运算的有向无环图 计算图有两个主要元素： 结点 Node 边 Edge 结点表示数据：如向量，矩阵，张量 边表示运算：如加减乘除卷积等 用计算图表示：y = (x+ w) * (w+1) a = x + w b = w + 1 y = a * b 计算图与梯度求导 y = (x+ w) * (w+1) a = x + w 计算图与梯度求导 y = (x+ w) * (w+1) 叶子结点 ：用户创建的结点称为叶子结点，如 X 与 W is_leaf: 指示张量是否为叶子结点 叶子节点的作用是标志存储叶子节点的梯度，而清除在反向传播过程中的变量的梯度 根据计算图搭建方式，可将计算图分为动态图和静态图 动态图 运算与搭建同时进行 灵活 易调节 例如动态图 PyTorch： 静态 先搭建图， 后运算 高效 不灵活。 静态图 TensorFlow
3K10编辑于 2022-11-13 - 来自专栏技术成长
图的度计算和相似度计算
图片图的度计算对于一个无向图，节点的度数表示该节点连接的边的数量。 可以通过以下公式计算某个节点的度数：度数 = 与节点相连的边的数量对于一个有向图，节点的出度表示从该节点出发的边的数量，入度表示指向该节点的边的数量。 可以通过以下公式计算某个节点的出度和入度：出度 = 从节点出发的边的数量入度 = 指向节点的边的数量图的相似度计算一种用于计算节点相似度的算法是节点结构相似度算法。 计算节点i的邻居节点与节点j的邻居节点的交集大小，记为A。计算节点i的邻居节点与节点j的邻居节点的并集大小，记为B。计算节点j的邻居节点与节点i的邻居节点的交集大小，记为C。 相似度 = (A + C) / B = (2 + 2) / 4 = 1。因此，节点i和节点j的相似度为1。使用Markdown格式输出结果：节点i与节点j的相似度为1。
1.9K61编辑于 2023-10-29 - 来自专栏AI系统
AI框架跟计算图什么关系？PyTorch如何表达计算图？
本节将会以AI概念落地的时候，遇到的一些问题与挑战，因此引出了计算图的概念来对神经网络模型进行统一抽象。接着展开什么是计算，计算图的基本构成来深入了解诶计算图。 因此派生出了目前主流的深度学习框架都选择使用计算图来抽象神经网络计算。图片计算图的定义我们会经常遇到有些 AI 框架把统一的图描述称为数据流图，有些称为计算图，这里可以统称为计算图。 $$ x_{mat} = \begin{bmatrix} 1 & 2 & 3 \ 4 & 5 & 6 \ 7 & 8 & 9 \end{bmatrix} $$x_mat = [[1, 2, 3], [4 例如针对形状为 (3, 2, 4, 5) 的四维张量进行表示，其内存表示如图中右侧所示。图片高维数组为开发者提供了一种逻辑上易于理解的方式来组织有着规则形状的同质数据，极大地提高了编程的可理解性。 PyTorch计算图动态计算图在Pytorch的计算图中，同样由节点和边组成，节点表示张量或者函数，边表示张量和函数之间的依赖关系。其中Pytorch中的计算图是动态图。这里的动态主要有两重含义。
1.9K30编辑于 2023-07-23 - 来自专栏Python与算法之美
三种计算图
Tensorflow底层最核心的概念是张量，计算图以及自动微分。 本篇我们介绍计算图。 有三种计算图的构建方式：静态计算图，动态计算图，以及Autograph. 在TensorFlow1.0时代，采用的是静态计算图，需要先使用TensorFlow的各种算子创建计算图，然后再开启一个会话Session，显式执行计算图。 二，静态计算图 在TensorFlow1.0中，使用静态计算图分两步，第一步定义计算图，第二部在会话中执行计算图。 TensorFlow1.0静态计算图范例 ? 在TensorFlow1.0中，使用静态计算图分两步，第一步定义计算图，第二部在会话中执行计算图。 而动态计算图已经不区分计算图的定义和执行了，而是定义后立即执行。 在TensorFlow1.0中，使用计算图分两步，第一步定义计算图，第二步在会话中执行计算图。
2.2K20发布于 2020-07-20 - 来自专栏腾讯技术工程官方号的专栏
娓娓道来图模型、图查询、图计算和图学习知识
多阶查询往往最大阶数为3，因为4阶及以上查询结果将非常庞大难以处理。此外，高阶的邻居同源点的关联强度也随着阶数的增长而不断下降。因此，从经验的角度看，多阶邻居查询一般最多到3阶。 亿级图上，路径查询的目标路径长度一般不会大于6（受限于计算能力），而实际需求往往不会大于4（关联信息衰减），查询过程往往是从两点分别向对方搜索，将两点各自的多阶邻居进行取交，实现路径的发现。 正如前面多阶查询所说，搜索深度大于等于4时，搜索空间容易过于巨大。（以上数据经验之谈，仅供参考） 2.3 子图查询 子图的概念是相对一个更大的图来定义的。 鉴于图计算任务大都是计算和资源均密集型的，明确图计算对业务助力的效果应该优于图计算在计算效率上的提升。图计算算法可达数十种，每种有各自适用的场景。 4 图表示学习 图表示学习并没有形式化的定义，但基本原理大都为将图中顶点映射到低维向量空间，并且向量间的相对距离能够尽可能地反映顶点间在图上的相对关联强度，完成从非欧图模型到欧式向量空间的转换。
4.4K33发布于 2021-01-26 - 来自专栏AI科技大本营的专栏
TensorFlow中的计算图
计算图表现为有向无环图，定义了数据的流转方式，数据的计算方式，以及各种计算之间的相互依赖关系等。 2 计算图的基本组成 TensorFlow的计算图粒度比较细，由节点和有向边组成（后来也加入了层）。相比之下，腾讯的开源机器学习平台Angel，其计算图的粒度较粗，由层（Layer）组成。 3 计算图的运行 TensorFlow中可以定义多个计算图，不同计算图上的张量和运算相互独立，因此每一个计算图都是一个独立的计算逻辑。 一个Session可以运行多个计算图，一个计算图也可以在多个Session中运行。 3.2 运行方式 简单来说，计算图的运行参考了拓扑排序的思想，可以分为如下4个步骤： 以节点名称作为关键字、入度作为值，创建一张哈希表，并将此计算图中的所有节点放入哈希表中。
2.9K10发布于 2019-10-13 - 来自专栏进击的Coder
计算图演算：反向传播
计算图 谈及计算，有人可能又要为烦人的计算公式头疼了，所以本文用了一种思考数学表达式的轻松方法——计算图。以非常简单的e=(a+b)×(b+1)为例，从计算角度看它一共有3步操作：两次求和和一次乘积。 为了让大家对计算图有更清晰的理解，这里我们把它分开计算，并绘制图像。 我们可以把这个等式分成3个函数： ? 在计算图中，我们把每个函数连同输入变量一起放进节点中。 为了计算图中的偏导数，我们先来复习这两个求和规则和乘积规则： ? 已知a=2，b=1，那么相应的计算图就是： ? 通过分解路径，这个式子能更高效地计算总和，虽然长得和求和等式有一定差异，但对于每条边它确实只计算了一次。 前向模式求导从计算图的输入开始，到最后结束。 虽然你以前可能没想过从计算图的角度来进行理解，但这样一看，其实前向模式求导和我们刚开始学微积分时接触的内容差不多。 另一方面，反向模式求导则是从计算图的最后开始，到输入结束。
2.2K21发布于 2019-09-04 - 来自专栏人工智能
随机计算图：连续案例
所有这些情况都会将您的计算图变成一个随机的 - 先前的确定性节点现在变成随机的。 如何通过这些节点进行反向传播并不明显。 在这个系列中，我想概述可能的方法。 考虑大致的推理目标： [图片] 或强化学习目标： [图片] 在下面，我将使用以下符号为目标： [图片] 在这种情况下，（随机）计算图（SCG）可以用下面的形式表示[1]: [图片] 这里的 θ，双圈是一组可调参数 为了使用这样的图来估计F(θ)，你只需要用你的θ，计算x的分布，从中得到尽可能多的样本，为每个样本计算f(x)，然后对它们进行平均。 我们如何最大限度地提高呢？ 基本上，这个想法是这样的：如果一些随机变量可以被分解成其他随机变量的组合，那么我们能够转换我们的随机计算图，使得我们不需要通过随机反向传播，并且将随机性注入到模型中作为独立 噪声？ 问题是，即使你总是可以将一个均匀分布的随机变量转换成任何其他的变量，它并不总是在计算上很容易[4].对于一些分布（Dirichlet，例如[5]），我们根本不知道任何有效的从无参数随机变换变量。
2.1K00发布于 2017-12-19 - 来自专栏网络收集
图表4 饼图（2）
type: 'pie', data: pieData, selectedMode: 'multiple', // selectedOffset: 30 }]}图片圆环radius饼图的半径 ：数组的第一项是内半径，第二项是外半径, 通过 Array , 可以将饼图设置为圆环图var option = { series: [{ type: 'pie', data: pieData , radius: ['50%', '70%'] }]}图片3.饼图的特点饼图可以很好地帮助用户快速了解不同分类的数据的占比情况
76310编辑于 2022-06-16 - 来自专栏王的机器
张量求导和计算图
怎样有效的计算它们？ 解决问题 1 需要了解张量求导 (第一节)，解决问题 2 需要了解计算图(第二节)。要理解张量请参考《张量 101》。 本节只用两层神经网络来说明一些核心问题，比如正向传播、反向传播、计算图等等。 计算图就是将计算形式化图形的方法，由输入结点、输出结点、函数 (从输入到输出的) 三部分组成。 每个一节点来表示一个变量，可以是标量、向量、矩阵或张量。 步骤 4 ? 上面四个步骤图看懂之后，结合本节的神经网络实例，再理解下面六张图的解释就容易了 (点击看大图)。 ? ? ? ? ? ? 现实中 X 通常是个二维矩阵，一个维度是特征数，一个维度是数据数，因此规则 5 和 6 最普适，是规则 3 和 4 的推广。 计算图核心 ?
3.5K41发布于 2019-07-05 - 来自专栏Python与算法之美
TensorFlow基础：创建计算图
本节介绍TensorFlow与创建计算图的几个函数： g = tf.Graph() #创建新的计算图g g.as_default() #将计算图g设置为当前使用的计算图 g0 = tf.get_default_graph () # 获取默认的计算图 tf.reset_default_graph() #清空默认的计算图 示范1： import tensorflow as tf # 初始化一个计算图对象g 示范2： import tensorflow as tf #获取默认的计算图对象句柄g0 g0 = tf.get_default_graph() #在g0中添加节点定义计算图 with g0.as_default 示范3： import tensorflow as tf #清空默认的计算图 tf.reset_default_graph() # 直接用Operator定义的节点将添加到默认计算图中 a = tf.constant 推荐使用示范1的方式定义计算图，不用每次都 tf.reset_default_graph()。
1.9K10发布于 2020-07-20 - 来自专栏AI系统
【AI系统】计算图原理
本文将会以 AI 概念落地的时候，遇到的一些问题与挑战，因此引出了计算图的概念来对神经网络模型进行统一抽象。接着展开什么是计算，计算图的基本构成来深入了解诶计算图。 因此派生出了目前主流的 AI 框架都选择使用计算图来抽象神经网络计算。计算图的定义我们会经常遇到有些 AI 框架把统一的图描述称为数据流图，有些称为计算图，这里可以统称为计算图。 x_mat = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]图中对标量、向量、矩阵进行形象化表示：张量张量（tensor）理论是数学的一个分支学科，在力学中有重要应用。 例如针对形状为 (3, 2, 4, 5) 的四维张量进行表示，其内存表示如图中右侧所示。高维数组为开发者提供了一种逻辑上易于理解的方式来组织有着规则形状的同质数据，极大地提高了编程的可理解性。 PyTorch 计算图动态计算图在 Pytorch 的计算图中，同样由节点和边组成，节点表示张量或者函数，边表示张量和函数之间的依赖关系。其中 Pytorch 中的计算图是动态图。
86310编辑于 2024-12-06 - 来自专栏技术成长
图计算与图数据库的概念
图片图计算和图数据库的概念图计算图计算是一种针对图数据进行分析和计算的方法。图数据由节点和边构成，节点代表实体或对象，边代表节点之间的关系或连接。 图计算可以应用于多个领域，如社交网络分析、生物网络分析、推荐系统等。在图计算中，一般会使用图模型来表示数据，图模型使用图的形式来表示实体间的关系，并使用图算法对图进行分析。 图算法可以用于查询、聚类、关联分析、路径搜索等任务，常见的图算法包括最短路径算法、PageRank算法、社区发现算法等。图计算通常需要处理大规模的图数据，因此需要高效的计算引擎来支持大规模的并行计算。 传统的图计算和图数据库技术在处理大规模图数据时面临存储、计算和通信等方面的挑战。高性能计算挑战：由于图数据的特点，如高度联通性和复杂的结构，需要开发具有高性能并行计算能力的算法和技术。 图计算需要进行大量的迭代计算和消息传递，同时还要考虑负载均衡和容错等问题，以实现高效的计算。灵活查询挑战：实际应用中，对图数据的查询和分析通常是复杂和灵活的。
1.3K61编辑于 2023-10-24
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号