|
|
FCS 文章精要:北京邮电大学石川教授团队——图基础模型 |
|
论文标题:Graph foundation model
期刊:Frontiers of Computer Science
作者:Chuan SHI, Junze CHEN, Jiawei LIU, Cheng YANG
发表时间:14 May 2024
DOI:10.1007/s11704-024-40046-0
微信链接:点击此处阅读微信文章
针对目前图学习领域的特定缺陷,北京邮电大学石川教授团队撰写了研究论文:图基础模型。
文章信息
标 题:
Graph foundation model
引用格式:
Chuan SHI, Junze CHEN, Jiawei LIU, Cheng YANG. Graph foundation model. Front. Comput. Sci., 2024, 18(6): 186355
阅读原文:
![](/upload/paper/images/2024/8/20248261148148970.png)
问题背景——图深度学习
随着不断发展,图深度学习逐渐变为处理图数据的主流方法之一。传统的图深度学习利用图数据中丰富的结构信息实施图卷积操作,通过消息传递机制拉近相邻节点表示之间的距离。这种方法在诸多下游任务例如节点分类、链路预测和图分类上取得了良好成绩。但这一类方法的迁移能力较弱,在实际应用场景中会出现针对一种数据、一种任务训练特制模型的情况。
![](/upload/paper/images/2024/8/20248261148354440.png)
问题背景——语言基础模型
随着大语言模型的出现,基础模型的概念登上舞台。该概念强调,使用一个单个模型来处理多种来源、形式的数据,并在多种下游任务上进行运作。经过训练、适配两个阶段,一个模型就可以成为解决人工智能问题的“终极方案”。
![](/upload/paper/images/2024/8/20248261148542570.png)
图基础模型
受语言基础模型启发,针对目前图学习领域的特定缺陷,我们提出了图基础模型的概念和范式。图基础模型与传统模型的对比如图所示,区别于“特制”模型的方式,图基础模型使用单个模型实现处理跨域数据、在多个不同任务上跨任务运行。图基础模型是指在大量数据上进行预训练、可以被迁移到多个下游任务上的模型。他被期望拥有涌现、同质的模型能力。
![](/upload/paper/images/2024/8/20248261149345220.png)
相关内容推荐:
文章精要 | 中国人民大学陈旭、林衍凯等:大语言模型智能体综述
文章精要 | 南京大学俞扬教授团队:模型梯度:统一策略和模型学习目标的基于模型的强化学习方法
文章精要 | 东北大学张天成副教授团队:一种同时追踪大量知识概念掌握概率的概率生成模型
文章精要 | 复旦大学邱锡鹏教授团队:y-Tuning: 面向大规模预训练模型的一种基于标签表示学习的高效微调范式
![](/upload/paper/images/2024/8/20248261150334300.png)
Frontiers of Computer Science
Frontiers of Computer Science (FCS)是由教育部主管、高等教育出版社和北京航空航天大学共同主办、SpringerNature 公司海外发行的英文学术期刊。本刊于 2007 年创刊,双月刊,全球发行。主要刊登计算机科学领域具有创新性的综述论文、研究论文等。本刊主编为周志华教授,共同主编为熊璋教授。编委会及青年 AE 团队由国内外知名学者及优秀青年学者组成。本刊被 SCI、Ei、DBLP、INSPEC、SCOPUS 和中国科学引文数据库(CSCD)核心库等收录,为 CCF 推荐期刊;两次入选“中国科技期刊国际影响力提升计划”;入选“第4届中国国际化精品科技期刊”;入选“中国科技期刊卓越行动计划项目”。
《前沿》系列英文学术期刊
由教育部主管、高等教育出版社主办的《前沿》(Frontiers)系列英文学术期刊,于2006年正式创刊,以网络版和印刷版向全球发行。系列期刊包括基础科学、生命科学、工程技术和人文社会科学四个主题,是我国覆盖学科最广泛的英文学术期刊群,其中12种被SCI收录,其他也被A&HCI、Ei、MEDLINE或相应学科国际权威检索系统收录,具有一定的国际学术影响力。系列期刊采用在线优先出版方式,保证文章以最快速度发表。
中国学术前沿期刊网
http://journal.hep.com.cn
![](/upload/paper/images/2024/8/2024826115161630.png)
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。