图是对不同对象及其相互关系的一种简洁抽象的直观数学表达,具有相互关系的数据——图结构数据在众多领域普遍存在,并得到广泛应用。随着大量数据的涌现,传统的图算法在解决一些深层次的重要问题,比如节点分类和链路预测等方面,存在很大的局限性。
而图神经网络(GNN)模型考虑了输入数据的规模、异质性和深层拓扑信息等,在挖掘深层次有效拓扑信息、提取数据的关键复杂特征和实现对海量数据的快速处理等方面,比如预测化学分子的特性、文本的关系提取和药物的相互作用,显示了令人信服的可靠性能。
事实上,图神经网络相关的研究也是愈发火热。不久前,有人分析了提交给深度学习领域顶级大会 ICLR 论文中的高频词,发现图神经网络的热度仅次于深度学习、强化学习和表征学习,已高居第 4 位。
近年来,深度学习在诸如计算机视觉和自然语言处理等领域取得了显著的成果。在这些任务中,数据一般是在欧几里得域中表示的。然而,在诸如物理系统建模、分子指纹学习、蛋白质作用位点预测等许多其他任务中,需要处理非欧几里得结构的图数据,这些数据包含元素之间丰富的关系信息。
图神经网络的概念最早于 2005 年由 Gori 等提出,他设计了一种用于处理图结构数据的模型。2009 年 Scarselli 等对此模型进行了详细阐述。此后陆续有关于图神经网络的新模型及应用研究被提出。近年来,随着对图结构数据研究兴趣的不断增加,图神经网络研究论文井喷,图神经网络的研究方向和应用领域都得到了很大的拓展。
图神经网络是基于深度学习的图数据处理方法。
由于其卓越的性能和较好的可解释性,图神经网络近年来被广泛应用于图分析。应用场景丰富,在结构化场景中,数据天然的组织结构是图结构。举例来说,图神经网络被广泛用于社交网络预测、交通流量预测、推荐系统和传统图表示学习。比如,如何使用对象–关系图对现实世界中的物理系统建模,如何预测分子的化学特性和蛋白质的生物相互作用特性,以及如何处理知识图谱建模过程中训练时没有见过的实体。
物理学对现实世界中的物理系统进行建模是了解人类智能的最基本的一个方面。通过将对象表示为节点,将关系表示为边,我们可以基于图神经网络用一种简单而有效的方式对对象、关系和物理进行推理。化学和生物学分子和蛋白质是可以用图来表示的结构化实体。原子或残基为节点,化学键或链为边。通过基于图神经网络的表示学习,学习到的向量可以帮助进行药物设计、化学反应预测和相互作用预测。
知识图谱将知识库表示为有向图,其节点表示实体,边表示实体之间的关系,如下图所示。关系以三元组的形式存在,记为 (h,r,t),其中 3 个字母分别表示头、关系、尾。知识图谱广泛用于推荐、Web 搜索和问题解答,为了将知识图谱有效地编码到低维连续向量空间中,图神经网络已成为一种广泛使用的有效工具,用于加入知识图谱的拓扑结构信息。链接预测和实体分类是知识图谱补全的两个主要任务。
为了同时考虑内容信息和用户–商品交互对推荐的影响,基于用户–商品评分图的推荐系统受到越来越多的关注。具体地说,这种方法将用户、商品和属性视为图的节点,并将三者之间的关系和行为视为边,边的值表示交互的结果。以这种方式,推荐问题被转换为针对图的链接预测问题。由于图神经网络具有强大的表示能力和较高的可解释性,因此基于图神经网络的推荐方法广受欢迎。此外图神经网络还可以用于矩阵补全、社交推荐等场景。
图神经网络在非结构化场景中的应用有图像、文本、程序源代码和多智能体系统。图像分类是计算机视觉领域中非常基础和重要的任务,它引起了广泛的关注,并拥有许多著名的数据集。图像分类任务的最新进展得益于大数据和 GPU 强大的计算能力,这使得人们能够不用手动从数据中提取信息,从而训练相应的分类器。
文本分类是自然语言处理领域的一个重要且经典的问题。经典的 GCN 模型和 GAT 模型可以用于解决该问题,但是它们仅使用文档之间的结构化信息,并没有使用太多文本信息。在序列标注中,由于图神经网络中的每个节点都有其隐状态,因此如果将句子中的每个单词都视为一个节点,就可以利用隐状态来解决序列标注问题。
该书全面介绍了图神经网络的基本概念、具体模型和实际应用。
书中首先概述数学基础和神经网络以及图神经网络的基本概念,介绍不同种类的图神经网络,包括卷积图神经网络、循环图神经网络、图注意力网络、图残差网络,以及几个通用框架。此外,该书还介绍了图神经网络在结构化场景、非结构化场景和其他场景中的应用。读完该书,将对图神经网络的最新成果和发展方向有较为透彻的认识。该书也受到了清华大学、复旦大学等教授和业内人士的推荐。
学术头条粉丝专属福利来啦!
想要继续深入了解图神经网络?学术头条联合图灵教育为读者们准备了 5 本《图神经网络导论》,免费送!参与方式:留言+点赞。今日问题:关于图神经网络,你最看好的应用场景是什么?(不少于 50 字的相关回答,禁止 copy 原文)学术君将会根据留言质量进行筛选,并从中选出 5 名留言点赞最高的读者,为每人送出《图神经网络导论》纸质书籍一本。截止时间:2021 年 6 月 14 日上午 10 点。