什么是图神经网络? 说明与应用【附图表】

已发表: 2021-01-08

目录

介绍

近年来,神经网络因其在模式识别和数据挖掘领域的应用和易用性而广受欢迎。 使用 CNN、RNN 和自动编码器等技术将深度学习应用于目标检测和语音识别等任务,为神经网络的研究和开发带来了大量工作。

深度学习在图像、文本和视频等数据上的应用很容易执行,因为它们基于欧几里得数据。 将数据表示为图形(非欧几里得)的应用程序又如何呢?

这就是我们引入图神经网络(GNN)概念的地方。 在本文中,我们将介绍图和 GNN 的定义和基础知识,并了解图神经网络的一些最新应用。

什么是图表?

从标题 - Graph Neural Networks 中,我们看到 GNN 最基本的部分是 Graph。

在计算机科学中,图被定义为具有两个组件的数据结构。 顶点和边。 图 G 可以定义为G = VE 。 其中V是顶点的集合,E是它们之间的边。 术语顶点和节点经常互换使用。 如果边上有箭头标记,称为有向依赖,则它是有向图。 如果不是,它们是无向图。

资源

一张图可以表示几件事——社交媒体网络、城市网络、分子等。考虑下图表示城市网络。 城市被表示为节点,连接它们的道路是边缘。

资源

使用上面的图网络,我们可以解决与这些城市有关的几个问题,例如找到哪些城市连接良好或找到两个城市之间的最短距离。

什么是图神经网络?

由于图具有极强的表达能力,它们在机器学习领域受到广泛关注。 每个节点都有一个与之关联的嵌入。 该嵌入定义了数据空间中的节点。 图神经网络是指在图上运行的神经网络架构。

GNN 架构的主要目的是学习一个嵌入,其中包含有关其邻域的信息。 使用这种嵌入,我们可以解决一些问题,如标记节点、预测节点和边等。

换句话说,图神经网络是另一类深度学习方法,旨在对图给出的数据进行推理。 它们应用于图,可以轻松执行节点级、边级和图级预测任务。

为什么不是CNN?

GNN 的主要优势在于它可以执行卷积神经网络 (CNN) 无法完成的任务。 CNN 用于执行目标检测、图像分类和识别等任务。 CNN 使用隐藏的卷积层和池化层实现了这一点。

在图数据上执行 CNN 在计算上很困难,因为它是高度任意且复杂的拓扑,这意味着没有空间局部性。 此外,还有一个不固定的节点排序,这使得应用 CNN 变得更加困难。

图神经网络

因此,可以理解为,GNN 是一种直接应用于图的神经网络,为边缘级、节点级和图级预测任务提供了方便的途径。 图神经网络主要有三种类型:

  1. 循环图神经网络
  2. 空间卷积网络
  3. 频谱卷积网络

GNN 的直觉之一是节点由其邻居和连接定义。 我们可以想象一下,如果一个节点的所有邻居都被删除,那么该节点将丢失其所有信息。 因此,节点的邻居和与邻居的连接的概念定义了一个节点。

考虑到这一点,让我们给每个节点一个状态 (x) 来表示它的概念。 我们可以使用节点状态 (x) 来产生输出 (o),这是关于概念的决策。 节点的最终状态 (x_n) 称为“节点嵌入”。 所有图神经网络的主要任务是通过查看其相邻节点的信息来确定每个节点的“节点嵌入”。

让我们从最强大的 GNN 版本开始,即循环图神经网络或 RecGNN

循环图神经网络

正如原始论文中提到的,RecGNN 是在 Banach 定点定理的假设下构建的,该定理指出:让 (X,d) 是一个完整的度量空间,让 (T:X→X) 是一个收缩映射。 那么 T 有一个唯一的不动点 (x∗),并且对于任何 x∈X,n→∞ 的序列 T_n(x) 收敛到 (x∗)。 这意味着如果我在 x 上应用映射 T k 次,x^k 应该几乎等于 x^(k-1)。

空间卷积网络

空间卷积网络的直觉类似于 CNN。 正如我们在 CNN 中所知道的,这个想法是通过使用滤波器和可学习的权重对中心像素周围的相邻像素求和来执行卷积。 空间卷积网络采用类似的思想,将相邻节点的特征聚合到中心节点。

资源

频谱卷积网络

与其他图神经网络相比,这种类型的 GNN 具有很强的数学基础。 它是根据图信号处理理论开发的。 它使用切比雪夫多项式近似来简化。

GNN 能做什么?

GNN 可以解决的问题大致分为 3 类:

  1. 节点分类
  2. 链接预测
  3. 图分类

节点分类

涉及预测图中每个节点的节点嵌入。 在这种情况下,只有一部分图被标记,因此这被称为半监督图。 一些应用是YouTube视频、Facebook好友推荐等。

链接预测

主要任务是识别图中两个实体之间的关系,并预测两个实体之间是否存在任何联系。 例如,考虑一个推荐系统,其中模型由不同产品的用户给出一组评论。 任务是预测用户的偏好并调整推荐系统以推广符合用户兴趣的产品。

图分类

涉及将整个图分为几个不同的类别。 它与图像分类任务非常相似,但这里的目标是在图域中。 有几个图形分类的例子,例如在化学中,模型以图形的形式给出分子结构,任务是将目标分类到特定类别。

GNN 的实时应用

自 2018 年推出以来,GNN 已经发现了不少实时应用,总结如下。

自然语言处理

GNN 在各种 NLP 应用中都有应用,例如情感分类、文本分类、序列标签。 由于其易于应用,它们被用于 NLP。 它们还用于社交网络分析,例如预测相似帖子和向用户推荐特定内容。

计算机视觉

计算机视觉是一个广阔的领域,借助深度学习在图像分类、对象检测等领域迅速发展。最受欢迎的应用是卷积神经网络。 近来,GNN 也已应用于该领域。 虽然 GNN 在计算机视觉中的应用还处于起步阶段,但在未来几年内显示出巨大的潜力。

科学

GNN 也广泛用于科学领域,例如物理系统、副作用预测和疾病分类。 化学家也在使用 GNN 来研究化合物和分子的图形结构。

其他领域

GNN 的应用不仅限于上述任务。 在将 GNN 应用到推荐系统、社交网络分析等各种领域方面,已经有过几次尝试。

结论

在引入 GNN 的过去几年中,它们已成为解决可以通过图建模的问题的强大而可靠的工具。 这是由于它的灵活性、表现力和易于可视化。 因此,GNN 是具有广泛实际应用的非结构化数据的直观解决方案。

如果您想了解更多关于 GCN 及其功能和优势的信息,请在 upGrad Education Pvt 注册。 有限公司和 IIITB 的机器学习和人工智能研究生和文凭课程。 这门机器学习和人工智能课程是为学生和工作专业人士设计的。

该课程提供一系列案例研究和作业、行业指导课程、IIIT 班加罗尔校友身份、顶级公司的就业帮助,最重要的是,丰富的学习经验。

你说的神经网络是什么意思?

神经网络是有助于识别模式的网络算法,在某种程度上是根据人脑设计的。 他们使用机器学习和人工智能来理解感官输入,对原始数据进行分类或分组。 所有真实的统计数据,无论是图片、音乐、文本还是时间序列,都应该转化为神经网络识别的字符,这些字符是数字的并以向量编码。 它们有助于数据的分类和聚类。 他们在拥有标记数据集时对数据进行分类,并根据示例输入之间的相似性帮助对未标记数据进行分组。 它们是更广泛的机器学习应用程序的一部分,包括强化学习、多样性和回归算法。

什么是卷积神经网络?

卷积神经网络,也称为 CNN 或 ConvNet,是一种可以获取输入图片并优先考虑图像中的各种元素,以及区分它们的技术。 CNN 所需的处理量明显少于其他算法。 CNN 是在视觉皮层的帮助下设计的,它与我们大脑中的神经元具有相似的模式。 即使在 CNN 中,单个神经元也只能对被称为感受野的一小部分视野中的脉冲做出反应。

神经网络与机器学习有何不同?

机器学习是一组强大的算法,可以分析数据,从中进行研究,并应用他们所研究的内容来寻找有趣的模式。 另一方面,神经网络是机器学习中使用的一组技术,用于使用神经元图对数据进行建模。 神经网络以能够自行做出可靠判断的方式排列算法,而机器学习模型则根据从数据中学到的知识做出决策。 因此,虽然机器学习模型可以从数据中学习,但它们可能需要在早期阶段进行一些人工交互。 神经网络不需要人工交互,因为其中的堆叠层通过不同概念的层次结构传达输入,使它们能够从自己的错误中学习。