- 综合排序
- 最热优先
- 最新优先
- 来自专栏强化学习专栏
图神经网络（GNN）
文章分类在学习摘录和笔记专栏： 学习摘录和笔记（26）---《图神经网络（GNN）》 图神经网络（GNN） 1 图神经网络（GNN）介绍 图不但包含数据，也包含数据之间的依赖关系，因而图神经网络 图神经网络（GNN）最擅长处理和建模图结构数据。 GNN的工作原理简单概况就是，聚合节点的邻居节点/边的信息，来更新节点的向量表征。 最后，清楚图的结构和转化后，该如何选择合适的图神经网络进行学习？ 1. 对于同构图，总结了一类成为homogeneous GNN的图神经网络类型。 常见的有基于元路径的（meta-path based），关系神经网络延伸的（R-GNN based）等等。 语义角色标注（Semantic Role Labelling） 参考：新智元 《自然语言处理中图神经网络从入门到精通》 文章若有不当和不正确之处，还望理解与指出。
50510编辑于 2024-12-03 - 来自专栏自然语言处理
图神经网络（01）-图与图学习(上)
来源：百度Aistudio 图神经网络7日打卡营 图（graph）近来正逐渐变成机器学习的一大核心领域，在开始PGL框架学习之前，我们先简单学习一下图论的基本概念，图论的经典算法，以及近些年来图学习的发展 图是什么？ 二. 如何存储图？ 三. 图的类型和性质 四. 主要的图算法 五. 图机器学习的发展 一. 图是什么？ , (0, 31), (1, 2), (1, 3), (1, 7), (1, 13), (1, 17), (1, 19), (1, 21), (1, 30), (2, 3), (2, 7), (2, 8) 30), (8, 32), (8, 33), (9, 33), (13, 33), (14, 32), (14, 33), (15, 32), (15, 33), (18, 32), (18, 33) 传统同构图（Homogeneous Graph）数据中只存在一种节点和边，因此在构建图神经网络时所有节点共享同样的模型参数并且拥有同样维度的特征空间。
3.5K32发布于 2021-01-27 - 来自专栏图学习
图神经网络基础
图神经网络基础 图神经网络用于挖掘事物的“普遍联系”，理解原理、应用技术。本文汇总图神经网络相关介绍和基础模型。 图及特性 图是由顶点和边组成的，如下图左所示。 图神经网络将图数据和神经网络进行结合，在图数据上进行端对端的计算。 现实生活中的大量的业务数据都可以用图来表示。万事万物皆有联系，顶点+关系这样一种表示覆盖很广。 比如在异常交易账户识别的场景中，GNN在将某个账户判断为异常账户之后，可以将该账户的局部子图可视化出来，如下图所示： [ed71415e4255409f8c6eb92bab385bb0.jpg] 可以直观地从子图结构中发现一些异常模式 由此我们可以粗浅地给图神经网络模型下一个定义，针对图结构这一非欧几里得结构数据，利用神经网络来聚合邻域信息，从而更新节点或者边的表达的模型就可以称为是图神经网络。 [20190615211333542.png] 图神经网络的应用 图数据的结构普遍存在，所以图神经网络的应用场景丰富多样。
2.3K113发布于 2021-11-04 - 来自专栏算法之名
图神经网络整理
关于图的概念可以参考图论整理 ，这里不再赘述。 图神经网络Graph neural networks(GNNs)是深度学习在图领域的基本方法，它既不属于CNN，也不属于RNN。 这个是图神经网络核心的概念。 图任务(Graph Tasks) 上图是一个节点的分类任务，在左边的部分，有些节点有颜色，有些节点没颜色。 图神经网络很难可视化，它不像图像或者声音那样有可以确定的样子和波形，过于抽象，错综复杂。 在d图中，可以对图结构中的每一个节点也可以进行分类，我们可以把每一个节点类比于图像分割中每一个像素的分类。 GNN的应用 一切皆是图 图神经网络可以应用于物理上，也可以应用于化学上或者生物上。 图卷积神经网络(Graph Convolution Networks) GCN是一种可以直接作用于图上的卷积神经网络，它能够提取图的特征。
1K40编辑于 2022-05-06 - 来自专栏机器学习与推荐算法
从图嵌入算法到图神经网络
在这之后，图嵌入算法逐渐过渡到神经网络时代，涌现出一大批优质的图神经网络模型，包括 SDNE (2016) 与 GraphSAGE (2017) 等等，在工业界大放异彩。 依据 Wu et. al (2019) 的定义，图神经网络可分为五大类： 图卷积网络(Graph Convolution Networks)：简称为 GCN，是目前最主流的图神经网络算法，其余四种图神经网络皆由 image.png 总结 图神经网络相对于传统的卷积神经网络和循环神经网络的不同之处，在于其高度的可塑性和多样性。 14】、节点特征【13】 【5】使用邻接矩阵或是使用节点的固有特征：邻接矩阵【6】、节点特征【13】 【6】邻接矩阵是否稀疏：是【11】、否【12】 【7】使用邻接矩阵或是使用节点的固有特征：邻接矩阵【8】 、节点特征【13】 【8】使用能进行节点级别分类任务的 <基于谱的图卷积网络>, e.g. 1stChebNet 【9】使用能进行图级别分类任务的 <基于空间的图卷积网络>，e.g.
2.2K31发布于 2020-04-21 - 来自专栏机器学习/数据可视化
图神经网络3-图神经网络的基础、前言和应用
公众号：尤而小屋作者：Peter编辑：Peter图神经网络GNN和传统深度学习网络的对比：循环神经网络（1997）和卷积神经网络（2012）：擅长处理图像等欧式数据或者文本和信号等序列数据图神经网络：擅长处理社交网络 、推荐系统、药物发现和程序分析中的图和流行结构等数据图结构数据不适合高度规则化的神经网络结构，比如RNN或者CNN等。 图神经网络基础GNN方法GNN的理论理解GNN的可扩展性GNN的可解释性GNN的对抗鲁棒性GNN方法GNN是专门设计的用于在图结构数据上进行操作的神经网络架构，其目的是通过聚合邻居节点的表征及其前一次迭代中的表征来迭代更新节点表征 有监督的GNN无监督的GNN训练深度图神经网络的问题：过平滑问题（其中所有的节点都有类似的特征）GNN的理论理解GNN能够达到一维Weisfeiler-Lehman测试的表达能力，甚至超越该能力，包含附加随机属性 对抗性攻击对抗性训练图神经网络前沿图分类和预测链接图生成和图转换图匹配和图结构学习动态图神经网络异质图神经网络基于图神经网络的AutoML和自监督学习图神经网络应用图构建：具有显式或隐式图结构的输入数据图表征学习
41700编辑于 2023-11-23 图神经网络入门指南
图神经网络入门指南神经网络已经适应了图的结构和特性。我们探讨了构建图神经网络所需的组件，并解释了其背后的设计选择。将鼠标悬停在下图中的一个节点上，观察它如何通过网络中的各层从周围节点累积信息。 每个非边界像素恰好有 8 个邻居，每个节点存储的信息是表示像素 RGB 值的 3 维向量。可视化图连通性的一种方法是通过其邻接矩阵。 图神经网络图神经网络（GNN）是对图的所有属性（节点、边、全局上下文）进行可优化的变换，同时保持图的对称性（置换不变性）。GNN 采用“图输入，图输出”的架构。 所有聚合后的消息通过一个更新函数（通常是一个学习到的神经网络）。通过堆叠消息传递 GNN 层，一个节点最终可以整合来自整个图的信息。 GCN 作为子图函数近似器：k 层的 GCN 可以看作是在大小为 k 的子图的学习嵌入上操作的神经网络。边与图的对偶：图 G 上的边预测任务可以表述为 G 的对偶图上的节点级别预测。
9410编辑于 2026-04-17- 来自专栏大数据和机器学习
图神经网络模型总结
image.png 二、图有两个基本特征： 每个节点都有自己的特征信息 图谱中的每个节点还具有结构信息 图神经网络相关： 在了解图神经网络之前，我们来复习一下与图神经网络相关的一些概念 一、Graph deep learning方法搭建的网络统称为图神经网络GNN 图神经网络 图神经网络(Graph Neural Network, GNN)是指神经网络在图上应用的模型的统称，根据采用的技术不同和分类方法的不同 图神经网络是一种直接作用在图结构上面的神经网络。 一、定义 在论文《Relational inductive biases, deep learning, and graph networks》中作者定义了图神经网络的通用结构，也就是现在的图神经网络的开山鼻祖 misc/scarselli2009graph.pdfGNN首次被提出的paper [7] https://zhuanlan.zhihu.com/p/85287578 拉普拉斯矩阵和拉普拉斯算子的关系 [8]
2.6K11发布于 2020-01-20 - 来自专栏图与推荐
漫谈图神经网络 (二)
从图(Graph)到图卷积(Graph Convolution): 漫谈图神经网络 (二) 作者: SivilTaram 编辑: Houye 在从图(Graph)到图卷积(Graph Convolution ): 漫谈图神经网络 (一)中，我们简单介绍了基于循环图神经网络的两种重要模型，在本篇中，我们将着大量笔墨介绍图卷积神经网络中的卷积操作。 接下来，我们将首先介绍一下图卷积神经网络的大概框架，借此说明它与基于循环的图神经网络的区别。接着，我们将从头开始为读者介绍卷积的基本概念，以及其在物理模型中的涵义。 比如说绿色结点的邻居始终是8个(边缘上的点可以做Padding填充)。但在图这种非欧空间中，结点有多少邻居并不固定。目前绿色结点的邻居结点有2个，但其他结点也会有5个邻居的情况。 这两条实际上也是后续图卷积神经网络的设计原则，图卷积的本质是想找到适用于图的可学习卷积核。 图卷积框架(Framework) 上面说了图卷积的核心特征，下面我们先来一窥图卷积神经网络的全貌。
1.5K32发布于 2020-04-07 - 来自专栏Tom
Cora图神经网络Pytorch
return test_acc 输出： 正如我们看到的，效果很差，一个重要的原因就是有标签的节点数量过少，训练的时候会有一些过拟合 接下来我们介绍图卷积神经网络： 然后开始构建我们的图神经网络： ： 通过visualize的函数处理，7维特征的节点被映射到2维的平面上，可以看到有点“同类节点群聚”的现象 接下来，构建我们的图神经网络： from torch_geometric.nn import test_acc test_acc=test() print(f"Test Accuracy:{test_acc:.4f}") 输出： 可以看到准确率已经提高到了80%，与前面获得59%的测准确率的MLP图神经网络相比 ，GCN图神经网络准确性要高的多，这表明节点的邻接信息再取得更好的准确率方面起着更关键的作用。 再来做个图看看吧： 通过上面这个图发现，同类节点群聚的现象更加明显了，这意味着在训练后，GCN图神经网络生成的节点表征质量更高了。 完
59610编辑于 2024-02-01 - 来自专栏图与推荐
漫谈图神经网络 (一)
从图(Graph)到图卷积(Graph Convolution): 漫谈图神经网络 (一) 作者: SivilTaram 编辑: Houye 作者最近看了一些图与图卷积神经网络的论文，深感其强大，但一些 因此，本文试图沿着图神经网络的历史脉络，从最早基于不动点理论的图神经网络(Graph Neural Network， GNN)一步步讲到当前用得最火的图卷积神经网络(Graph Convolutional 同时，本文关于部分图卷积神经网络的理解很多都是受到知乎问题[8]高赞答案的启发，非常感谢他们的无私分享！ 最后，本文还引用了一些来自互联网的生动形象的图片，在这里也向这些图片的作者表示感谢。 不过，因为图神经网络的发展分支非常之多，笔者某些叙述可能并不全面，一家之言仅供各位读者参考： 图神经网络的概念最早在2005年提出。 Deep Learning on Graphs: A Survey, https://arxiv.org/abs/1812.04202 [8].
1.5K21发布于 2020-04-07 - 来自专栏自然语言处理
图神经网络14-TextGCN:基于图神经网络的文本分类
GCN属于一类图形神经网络，称为消息传递网络，其中消息（在这种情况下，边缘权重乘以节点表示形式）在邻居之间传递。 我们可以将这些消息传递网络视为帮助学习节点表示的方法，该节点表示法考虑了其图结构的附近邻居。因此，图的构造方式，即在哪些节点之间形成哪些边，非常重要。 Text-GCN：基于图神经网络的文本分类 ? 文本Graph的构建 构造“文本”图的细节如下。首先，节点总数是文档 ? 数加上不同词语 ? 的个数。节点特征矩阵是恒等矩阵 ? 大约10000个文档，涉及52个类别 R8与上述相同，但具有7500个文档和8个类别 MR电影评论数据集，包含10000条评论和两个类别：正面情绪和负面情绪 实验结果如下表所示： ? 总的来说，我认为本文显示了图神经网络的强大能力及其在我们可以定义和构建某种有用图结构的任何领域中的适用性。
3.7K32发布于 2021-06-01 - 来自专栏图与推荐
漫谈图神经网络 (三)
从图(Graph)到图卷积(Graph Convolution): 漫谈图神经网络 (三) 作者: SivilTaram 编辑: Houye 恭喜你看到了本系列的第三篇！ 前面两篇分别介绍了基于循环的图神经网络和基于卷积的图神经网络，那么在本篇中，我们则主要关注在得到了各个结点的表示后，如何生成整个图的表示。 图读出操作(ReadOut) 图读出操作，顾名思义，就是用来生成图表示的。它的别名有图粗化(翻译捉急，Graph Coarsening)/图池化(Graph Pooling)。 这就是典型的**图重构(Graph Isomorphism)**问题。比如下面左右两个图，其实是等价的： ? 图重构 为了使得同构图的表示能够保持一致，图读出的操作就需要对结点顺序不敏感。 基于学习的方法(Learning Category) 基于统计的方法的一个坏处大概是它没办法参数化，间接地难以表示结点到图向量的这个“复杂”过程。基于学习的方法就是希望用神经网络来拟合这个过程。
62731发布于 2020-04-07 - 来自专栏深度学习自然语言处理
【GNN】图神经网络综述
二、有哪些图神经网络 三、图神经网络的应用 一、什么是图神经网络？ 同时图嵌入的深度学习方法也属于图神经网络，包括基于图自动编码器的算法（如DNGR和SDNE）和无监督训练的图卷积神经网络（如GraphSage）。下图描述了图嵌入和图神经网络在本文中的区别。 ? 二、有哪些图神经网络？ 图卷积网络是许多复杂图神经网络模型的基础，包括基于自动编码器的模型、生成模型和时空网络等。下图直观地展示了图神经网络学习节点表示的步骤。 ? 为了将图像与图关联起来，可以将图像视为图的特殊形式，每个像素代表一个节点，如下图a所示，每个像素直接连接到其附近的像素。通过一个3×3的窗口，每个节点的邻域是其周围的8个像素。
2.1K41发布于 2020-02-18 - 来自专栏学习
机器学习——图神经网络
图神经网络(GNN)：理解复杂网络数据的有效工具 图神经网络（Graph Neural Network, GNN）是近年来机器学习领域的热门话题。 本文将深入探讨图神经网络的基本概念、主要模型及其应用，并通过代码示例展示如何从头实现一个 GNN。 1. 图神经网络基础 1.1 什么是图？ 1.2 图神经网络的目标 图神经网络的主要目标是通过图的结构和节点的特征来进行学习。具体来说，GNN 可以用来解决以下问题： 节点分类：例如，在社交网络中预测用户的兴趣。 图分类：例如，判断一个分子是否具有某种化学性质。 2. 图神经网络的工作原理 GNN 的核心思想是通过迭代地聚合每个节点邻居的信息来更新节点的表示。 = GATConv(8 * 8, dataset.num_classes, heads=1, concat=False) def forward(self, data): x
4.8K10编辑于 2024-10-20 - 来自专栏图与推荐
图神经网络的概率图模型解释器
从贝叶斯学派的代表方法——概率图模型的角度对图神经网络加以解释。它的强大之处在于生成的解释具有丰富的统计信息，能够以条件概率的形式自然的表达出节点之间的依赖关系。 ? Graphical Model Explanations for Graph Neural Networks 论文地址：https://arxiv.org/pdf/2010.05788.pdf 0.摘要 在图神经网络 在节点分类任务中， 是图 的所有节点预测的向量，其中 是目标预测(即本文中需要被解释的预测)；在图分类任务中， 是在图 上的预测，简单的将 写成 。 对于解释域 的选取，可以选择图 的边子集、特征矩阵 的实例子集。本文采用了[17]中提出的神经网络的解释模型框架，并认为 是一个可解释模型家族。 “A survey on bayesian network structure learning from data,” in Progress in Artificial Intelligence 8,
2.3K10发布于 2021-04-22 - 来自专栏海边的拾遗者
图神经网络的重要分支：时间图网络
图神经网络的研究已经成为今年机器学习领域 炙手可热 的话题之一。最近，图神经网络在生物学、化学、社会科学、物理学和许多其他领域的问题上，取得了一系列成功。 到目前为止，图神经网络模型主要是针对静态图而开发的，静态图不会随着时间而改变。然而，许多有趣的现实世界图都是动态的，并且会随着时间的推移而不断变化，突出的例子包括社交网络、金融交易和推荐系统。 该事件流由编码器神经网络接受，这个编码器神经网络为图的每个节点生成时间相关的嵌入。然后，可以将嵌入馈送到为特定任务而设计的解码器中。 这类似于在消息传递图神经网络【4】中计算的消息。该消息是在节点 i 和 j 在时刻 t 之前交互时的内存函数，交互时刻 t 和边特征为【5】： ? ? 内存更新程序 用于使用新消息更新内存。 我们证明了这些方法可以作为时间图网络的特殊配置来获得。由于这一原因，时间图网络似乎是目前在动态图学习上最为通用的模型。
1.5K30发布于 2020-08-20 - 来自专栏算法进阶
图神经网络(GNN)和神经网络的关系
2.3 作为关系图的通用神经网络 本节讨论了如何将关系图推广到通用神经网络，特别是可变宽度MLP。 在ImageNet实验中，我们使用了三种ResNet系列架构，包括ResNet-34、ResNet-34-sep和ResNet-50，以及EfficientNet-B0和8层CNN。 我们研究发现，表现最佳的关系图与生物神经网络惊人地相似，如表2和图6所示。顶级人工神经网络的图度量与生物神经网络高度相似，且关系图表示能将生物神经网络转化为5层MLP，优于基线完整图。 表2 顶级人工神经网络可以类似于生物神经网络 图6 生物（左）和人工（右）神经网络图结构的可视化。 6 相关工作 神经网络连接。神经网络连接模式设计主要关注宏观结构和微观结构。 我们使用关系图表示作为结构先验，将图结构硬连接到神经网络上。深度ReLU神经网络可以自动学习稀疏表示。问题是，在没有图先验的情况下，训练全连接神经网络是否会出现任何图结构。
60210编辑于 2024-01-23 - 来自专栏NLP/KG
PGL图学习之图神经网络GraphSAGE、GIN图采样算法
PGL图学习之图神经网络GraphSAGE、GIN图采样算法[系列七] 本项目链接：https://aistudio.baidu.com/aistudio/projectdetail/5061984? contributionType=1 图机器学习(GML)&图神经网络(GNN)原理和代码实现(前置学习系列二）：https://aistudio.baidu.com/aistudio/projectdetail contributionType=1 在图神经网络中，使用的数据集可能是亿量级的数据，而由于GPU/CPU资源有限无法一次性全图送入计算资源，需要借鉴深度学习中的mini-batch思想。 传统的深度学习mini-batch训练每个batch的样本之间无依赖，多层样本计算量固定；而在图神经网络中，每个batch中的节点之间互相依赖，在计算多层时会导致计算量爆炸，因此引入了图采样的概念。 95.60% 94.8% Maxpool 94.95% 94.8% LSTM 95.13% 95.4% 4.2 Graph Isomorphism Network (GIN) 图同构网络（GIN）是一个简单的图神经网络
1.7K20编辑于 2022-12-21 - 来自专栏NLP/KG
PGL图学习之图神经网络GraphSAGE、GIN图采样算法
PGL图学习之图神经网络GraphSAGE、GIN图采样算法系列七 本项目链接：https://aistudio.baidu.com/aistudio/projectdetail/5061984? contributionType=1 图机器学习(GML)&图神经网络(GNN)原理和代码实现(前置学习系列二）：https://aistudio.baidu.com/aistudio/projectdetail -------------------------------------------------------------------------------------------------- 在图神经网络中 传统的深度学习mini-batch训练每个batch的样本之间无依赖，多层样本计算量固定；而在图神经网络中，每个batch中的节点之间互相依赖，在计算多层时会导致计算量爆炸，因此引入了图采样的概念。 例如下图中，我们要预测 0 号节点，因此首先随机选择 0 号节点的一阶邻居 2、4、5，然后随机选择 2 号节点的一阶邻居 8、9；4 号节点的一阶邻居 11、12；5 号节点的一阶邻居 13、15 聚合具体来说就是直接将子图从全图中抽离出来
1K50编辑于 2022-11-25
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号