锐客网

  1. 首页 > 睿知 > it技术 > >

GCN相关应用|图卷积神经网络（GCN）相关应用

神经网络深度学习GCNGCN相关应用

GCN相关应用|图卷积神经网络（GCN）相关应用
文章图片

网络分析 在社会网络分析领域，引文网络是最为常见的数据，即节点为论文，连边关系为引用关系，常见的数据集包括 Cora, DBLP, Citeseer 等。一个典型的分类任务是给定每篇文章的内容信息和文章之间的引用关系，将每篇文章分类到对应的领域中。
例如，在节点的半监督分类场景下，已知节点的属性信息包括文章的标题或摘要信息，以及节点之间的引用关系构成的网络信息，给定少量的数据标签，通过机器学习的方式，对网络中的每个节点的所属领域进行划分。在该任务中，图卷积神经网络将节点文本属性和引用网络结构有效的建模，取得了巨大的成功。
推荐系统 人们通过将其视为矩阵补全或者链接预测的方式，能够有效的建模商品和用户之间的联系。图卷积神经网络被认为能够很好的建模图的结构属性和节点特征信息，而推荐系统既可以被视为一个矩阵补全问题，也可以被是因为是二部图（用户和商品）的链接预测问题。相比传统的方法，图卷积神经网络能够更好的利用在推荐系统中普遍存在的用户属性和商品属性信息，这也是图卷积神经网络能够在推荐系统任务上引起人们广泛关注的原因。
Monti 等将多图卷积神经网络和循环神经网络相结合，其中多图卷积神经网络被用来提取局部静止的特征，而循环神经网络能够扩散分数值，重建矩阵。Berg 等将推荐系统建模为图上的链接预测问题，提出基于不同消息传播的图自编码框架对推荐系统的二部图进行建模，在包含社交网络的数据上取得了最好的结果。 Leskovec 等将卷积神经网络应用到推荐系统中，其提出一个数据高效的图卷积神经网络算法 PinSage，对商品节点产生嵌入表达。这些表达包含了图结构和节点特征信息，相比传统的图卷积方式，其提出了一个高效的随机游走策略建模卷积，设计了一个新的训练策略，成功的将图卷积神经网络应用到节点数为 10 亿级的超大规模推荐系统中。Wang 等提出 RippleNet 框架，引入知识图谱信息，提高了推荐系统的性能。Fan 等提出 GraphRec 框架，包括用户建模，商品建模和打分预测 3 个部分，使用注意力机制，有效的建模了用户的交互信息和用户的社交网络信息。
交通预测 交通预测问题也是图卷积神经网络得到广泛应用的任务之一。其目的是在给定历史交通速度和路线图的情况下，预测未来的交通的速率。在交通预测问题中，节点表示在道路中放置的传感器，而边则表示节点对的物理距离。每个节点包含一个时序的特征。相比于传统的图分析问题。交通预测问题中包括时间和空间两个方面的建模，而如何利用图卷积神经网络更好的建模交通中的路网带来了机遇和挑战。在交通预测相关的场景下，如何解决时空依赖是重要的研究方向，由于图卷积神经网络提供了一种解决图数据问题建模的方案，其通过和循环神经网络等时序模型的结合，给出了一个建模交通预测问题的良好的解决思路。而如何进一步更细粒度考虑时空数据建模依然是未来研究的热点。
Li 等提出扩散卷积循环神经网络(DCRNN) 建模交通预测。在该模型中，其将交通流量视为一个有向图上的扩散问题，提出通过使用扩散卷积的方式来建模图结构化数据。使用循环神经网络来建模时间依赖。在两个大规模道路网络交通数据集上取得了 12%-15%的提升。Cui 等提出一个交通图卷积长短时记忆网络(TGC-LSTM)学习道路网络和时变的交通模式。其定义图卷积神经网络在物理的路网拓扑结构上。实验结果表明该方法能够捕获有效存在于车辆交通网络中的复杂的时空依赖。Zhang 等提出图门递归单元(GGRU)解决交通流量预测问题，其将图门递归单元应用于循环神经网络的编码解码模型，应用在洛杉矶高数公路数据集上。Yu 等提出一个新的深度学习框架，空间时间图卷积神经网络(STGCN)，解决在交通领域时序 预测问题。在该框架中，其首先形式化问题到图上使用卷积结构进行建模，由于更好的利用了拓扑结构，其在短期和中长期交通预测上取得了相比传统机器学习方法显著的提升。
生物化学 除了传统的图数据的建模外，图卷积神经网络在生物化学等领域也受到了研究人员的大量关注。相比传统的图数据的研究，在生物化学领域，人们通常将一个化学结构或一个蛋白质视为一个图，图中的节点是更小的分子，边代表键或者相互作用。生物化学领域主要集中于对于分子拓扑结构的建模，这些问题中，许多的化学结构和性质体现在图本身的结构特性上。使用图卷积神经网络对这些分子结构的刻画能够显著地帮助到包括新药发现、药物分类等任务。
Duvenaud等人直接在图上定义卷积神经网络。该神经网络模型输入为任意大小或形状的分子，通过端到端地学习分子指纹。该模型能够更好地帮助实现特定功能的分子设计。Kearnes等人使用图卷积神经网络对原子、键和距离进行编码，能够更好地利用图结构中的信息。其提供了新的基于配体的虚拟筛选的范式。Gilmer等人提出消息传播模型 MPNNs预测给定分子的化学性质。Lee等人提出图注意力模型（GAM），自适应地选择一些“信息节点”进而收集整个图的信息，用于图分类问题。
Such等人直接将滤波器定义为图邻接矩阵的函数的多项式，提出Graph-CNNs模型，能够处理异构和同质的图数据。在分子分类问题上，表现出了最好的实验结果。Zitnik等人使用图卷积神经网络建模多种药物副作用。其首先构建蛋白质－蛋白质交互，药物－蛋白质靶标相互作用和多种药物相互作用的多模态图。在图中，每种副作用被视为一个不同类型的边缘。进而将对与药物副作用的建模转化为一个链接预测问题，为进一步研究药理学提供了新的研究思路。Fout等人提出将图卷积神经网络应用到蛋白质交互预测中。在该任务中，蛋白质是氨基酸残基链，折叠成三维结构，赋予它们生化功能。蛋白质通过与其他蛋白质相互作用的复杂网络发挥其功能。Cao等人提出 MolGAN，该模型通过生成对抗网络结合图卷积神经网络，设计出包含特定化学性质的分子结构。You等人提出图卷积策略网络（GCPN），一个基于通用图卷积和强化学习来生成目标图的模型。该模型通过消息传播的方式令隐藏状态为节点表达，然后产生策略π。通过采样的方式选择策略ａ，然后环境给出化学检测的状态和奖励rt。实验表明该方法相比基线方法，在化学性质优化上有61％的提升。
计算机视觉（CV） 在计算机视觉中，图卷积神经网络的应用主要集中于少样本学习（Few-ShotLearning）、零样本学习（Zero-ShotLearning）、点云建模（PointClouds）、场景图（Sencegraph）等。总的来说，在计算机视觉领域，人们在完成了包括物体识别，图片分类，语义分割后，计算机视觉更关注物体在少量样本，复杂语义情况下的建模和学习。在这些场景下，图是重要的数据结构，而图卷积神经网络是建模该图数据有效的方法。
其中，少样本学习旨在使用较少的样本训练能够识别出一个全新的样本。其通常包含两个阶段：元训练和元测试。在任务中，数据集包括：训练集，支持集和测试集。支持集和测试集共享相同的标签空间，但训练集有单独的标签空间，且与支持／测试集不相交。如果支持集包含每个类包含Ｋ个标签样 本，Ｃ个类别，则该问题被称为C-wayK-shot问题。常见的数据集包括：Omninglot和miniImageNet。其中Omninglot包含Omninglot数据集包含来自50个不同字母的1623个不同手写字符。miniImageNet则包含100个不同类别，每个类别600样本的84×84的RGB 图片。少样本学习由于存在较少的训练样本，因此需要进一步刻画出不同的物体或者概念之间的语义关系，常见的方法包括引入知识图谱，构建图片之间的全链接图等方式。
Garcia等人定义一个全连接的图，其中节点是图片，连边是图片和图片之间的相似度，他们使用图神经网络对节点进行编码，使用神经消息传播模型能够更好地利用图片之间的关联结构信息，其在少样本、半监督和主动学习等任务上取得了较好的实验结果。Marino等人将知识图谱引入到图片分类任务中，其使用图卷积神经网络更好地利用在知识图谱中的先验知识。在COC数据集的多标签分类任务上取得了提升。Lee等人同样将知识图谱引入到零样本学习任务中，在多标签分类任务中取得了提升。Kampffmeyer等人在使用知识图谱时，定义先祖和后继传播两种方式，能够更好地利用图谱中的语义信息。
点云图是指3Ｄ扫描器产生的，某个坐标系下的点的集合，其包含了3Ｄ的坐标信息、颜色等相比２Ｄ图片更多的几何信息。Qi等人使用图神经网络实现了RGBD图片的语义分割务。Wang等人在点云上使用图卷积神经网络，提出通过边卷积的方式收集边的特征，既包含了局部领域的信息，也通过堆叠或循环的方式学习到全局的几何属性。该模型在形状分类（ShapeClassification）和局部分割（PartSegmentation）任务上取得了不错的结果。Landrieu等人使用消息传播机制在点云图上进行建模。
场景图是另一类在计算机视觉领域较为常见的图结构数据，其节点是物体，边的特征代表其空间关系。相比传统描述的句子线性结构，图结构包含了更多有价值的语义信息。如何使用图卷积神经网络建模场景图受到了大量的关注。Teney等人通过场景图和句子依存句法图的建模，在视觉问答上得到了有效的应用。Chen等人［８５］则提出３个图模块：知识图谱、图片区域空间关联图和区域类别分布图，在可视化回答上进行了有效地建模。
自然语言处理（NLP） 图卷积神经网络在自然语言处理领域有大量的应用。在该领域中，较为常见的图数据为知识图谱、句法依赖图和抽象含义表达图、词共现图以及其他方式 构 建 的 图。抽 象 含 义 表 达 AbstractMeaning Representation(AMR)是一种将一个句子的含义编码为有根有向图。大量的研究表明，在使用图卷积神经网络模型后，各项自然语言处理任务的结果都出现了一定的提升。图结构的使用，使得对象之间的复杂的语义关系得到了有效地挖掘。相比传统的对于自然语言处理的序列化建模，使用图卷积神经网络能够挖掘出非线性的复杂语义关系。
Bastings等人将图卷积神经网络作用于依存句法树上，应用在英语和德语、英语和捷克语的机器翻译任务。Beck等人使用门限图神经网络（GGNN）在抽象含义图上，作用于基于语法的机器翻译任务。
依存句法图或树，节点是单词，连边是语义关系。Liu等人和Nguyen等人使用图卷积神经网络应用于事件提取，这里使用的图是依存句法树。Song等人将图卷积神经网络作用于阅读理解、抽象含义图到文本的生成任务和关系提取等任务上。语义角色标注SemanticRoleLabeling（SRL）的任务是给定一个句子，识别出句子中的谓语和对应的对象。Marcheggiani等人提出使用图卷积神经网络作用于句法依赖图，并且和长短时记忆网络叠加使用，应用于语义角色标注上。
除了上述的图谱外，词共现网络也被应用于文本分类任务上。其中节点是非停用词，连边是在给定窗口下的词共现关系。Defferrard等人提出了一个在图谱理论上定义的卷积神经网络，它提供了必要的数学背景和有效的数值方案来设计图上的快速局部卷积滤波器。Henaff等人使用图卷积神经网络在Reuter数据集上的文本分类任务。Yao等人通过构建共词网络和文档关系网络，将图卷积神经网络应用到文本分类任务上，在不使用外部知识和单词表达的情况下，取得了最好的结果。Peng等人从原始文本基于词共现网络和一个给定的窗口大小，构建了一个图。然后使用图卷积操作进而实现对于文本的分类任务。
其他 在除了上述的应用领域外，包括程序推断、优化求解等任务上，图卷积神经网络都开始被人们使用。由于其可以建模在现实生活中常见的图数据，并且通过卷积、注意力或消息传播等机制，能够将网络的拓扑结构和节点属性等信息以神经网络进行捕获和建模，因此图卷积神经网络有广泛的应用前景。
【GCN相关应用|图卷积神经网络（GCN）相关应用】参考文献：徐冰冰,岑科廷,黄俊杰,等. 图卷积神经网
络综述[J]. 计算机学报,2020,43(5):755-780.
没毛病：大自然的搬运工仅此而已！！！

    推荐阅读


    上一篇：数据分析与机器学习|大厂面试机器学习算法（5）推荐系统算法

    下一篇：深度学习|BP神经网络实现手写数字识别