智能阅读台灯，享受舒适读书时光

maoyufanyi，keyirangnigengjialejiezijideaichong，fanyidoushifeichangdefangbianbianjie；keziyoutianjiahaoyou，zhakanhaoyouxuexidongtai，bingkeyihudongdianzan，xianghuguli，shushanyoulunicongbugudu。meishushengji，quanxinbianpinghuaUIjiemian!fazhanbaoleizhuangdajunduijishizhandoudeyouxiwanfa，chuzhaoliuchangbukadun，jiehehejixitong，chaoduojinengkeyisuixinshifang，dazaochangshuangzhandoutiyan。如(ru)何(he)生(sheng)成(cheng)「好(hao)」的(de)圖(tu)？面(mian)向(xiang)图生成的深(shen)度(du)生成模(mo)型(xing)系(xi)統(tong)綜(zong)述(shu)｜TPAMI2022

新(xin)智(zhi)元(yuan)報(bao)道(dao)

來(lai)源(yuan)：專(zhuan)知(zhi)

【新智元導(dao)讀(du)】本(ben)文(wen)對(dui)用(yong)於(yu)图生成的深度生成模型領(ling)域(yu)的文獻(xian)進(jin)行(xing)了(le)廣(guang)泛(fan)的概(gai)述。

https://www.zhuanzhi.ai/paper/a904f0aa0762e65e1dd0b8b464df7168

图是(shi)描(miao)述对象(xiang)及(ji)其(qi)關(guan)系的重(zhong)要(yao)數(shu)據(ju)表(biao)示(shi)形(xing)式(shi)，它(ta)們(men)出(chu)現(xian)在(zai)各(ge)種(zhong)各樣(yang)的现實(shi)場(chang)景(jing)中(zhong)。图生成是該(gai)领域的关鍵(jian)問(wen)題(ti)之(zhi)壹(yi)，它考(kao)慮(lv)的是學(xue)習(xi)給(gei)定(ding)图的分(fen)布(bu)，生成更(geng)多(duo)新的图。然(ran)而(er)，由(you)于其广泛的應(ying)用，具(ju)有(you)豐(feng)富(fu)歷(li)史(shi)的图的生成模型傳(chuan)统上(shang)是手(shou)工(gong)制(zhi)作(zuo)的，並(bing)且(qie)只(zhi)能(neng)对图的一些(xie)统計(ji)屬(shu)性(xing)建(jian)模。

最(zui)近(jin)在用于图生成的深度生成模型方(fang)面的进展(zhan)是提(ti)高(gao)生成图的保(bao)真(zhen)度的重要一步(bu)，并為(wei)新類(lei)型的应用鋪(pu)平(ping)了道路(lu)。本文对用于图生成的深度生成模型领域的文献进行了广泛的概述。首(shou)先(xian)，给出了面向图生成的深度生成模型的形式化(hua)定義(yi)和(he)初(chu)步知識(shi);其次(ci)，分別(bie)提出了用于無(wu)條(tiao)件(jian)和条件图生成的深度生成模型的分类;对各自(zi)已(yi)有的工作进行了比(bi)較(jiao)分析(xi)。在此(ci)之後(hou)，將(jiang)概述此特(te)定领域中的評(ping)估(gu)指(zhi)標(biao)。最后，總(zong)結(jie)了深度图生成的应用，并指出了五(wu)個(ge)有發(fa)展前(qian)景的研(yan)究(jiu)方向。

引(yin)言(yan)

图在现实世(shi)界(jie)中无處(chu)不(bu)在，表示对象及其关系，如社(she)會(hui)網(wang)絡(luo)、引文网络、生物(wu)网络、交(jiao)通(tong)网络等(deng)。眾(zhong)所(suo)周(zhou)知，图還(hai)具有復(fu)雜(za)的结構(gou)，其中包(bao)含(han)丰富的底(di)層(ceng)值(zhi)[1]。人(ren)们在這(zhe)方面做(zuo)出了巨(ju)大(da)的努(nu)力(li)，產(chan)生了丰富的相(xiang)关文献和处理(li)各种图问题的方法(fa)。

这些工作可(ke)分为兩(liang)类:1)預(yu)測(ce)和分析给定图的模式。2)学习给定图的分布，生成更多新穎(ying)的图。第(di)一种类型涵(han)蓋(gai)了許(xu)多研究领域，包括(kuo)節(jie)點(dian)分类、图分类和鏈(lian)接(jie)预测。在過(guo)去(qu)的幾(ji)十(shi)年(nian)裏(li)，在这个领域已經(jing)做了大量(liang)的工作。與(yu)第一类问题相比，第二(er)类问题与图生成问题有关，这也(ye)是本文的重点。

图生成包括建模和生成真实世界的图的过程(cheng)，它在几个领域都(dou)有应用，例(li)如理解(jie)社交网络[2]，[3]，[4]中的交互(hu)動(dong)態(tai)，異(yi)常(chang)檢(jian)测[5]，蛋(dan)白(bai)質(zhi)结构建模[6]，[7]，源代(dai)碼(ma)生成和翻(fan)譯(yi)[8]，[9]，語(yu)义解析[10]。由于其广泛的应用，图的生成模型的发展有著(zhu)(zhe)丰富的历史，产生了著名(ming)的模型，如隨(sui)機(ji)图、小(xiao)世界模型、随机塊(kuai)模型和貝(bei)葉(ye)斯(si)网络模型，这些模型基(ji)于先驗(yan)结构假(jia)設(she)[11]生成图。这些图生成模型[12]、[13]、[14]旨(zhi)在建模预先選(xuan)擇(ze)的图族(zu)，如随机图[15]、小世界网络[16]和无标度图[12]。然而，由于其簡(jian)單(dan)性和手工制作的性质，这些随机图模型通常对复杂依(yi)賴(lai)的建模能力有限(xian)，只能对图的一些统计属性建模。

这些方法通常很(hen)適(shi)合(he)预定义原(yuan)則(ze)为之量身(shen)定制的属性，但(dan)通常不能很好地(di)适用于其他(ta)属性。例如，接觸(chu)网络模型可以(yi)擬(ni)合流(liu)感(gan)流行，但不能拟合动态功(gong)能連(lian)接。然而，在许多领域，网络的性质和生成原理在很大程度上是未(wei)知的，如那(na)些解釋(shi)大腦(nao)网络中的精(jing)神(shen)疾(ji)病(bing)的机制，网络攻(gong)擊(ji)和惡(e)意(yi)軟(ruan)件的传播(bo)。对于另(ling)一个例子(zi)，Erdos-Renyi的图沒(mei)有许多现实世界网络中典(dian)型的重尾(wei)度分布。此外(wai)，先验假设的使(shi)用限制了这些传统技(ji)術(shu)在更大規(gui)模的领域中探(tan)索(suo)更多的应用，在这些领域中，图的先验知识总是不可用。

考虑到(dao)传统图生成技术的局(ju)限性，一个关键的開(kai)放(fang)挑(tiao)戰(zhan)是开发可以從(cong)觀(guan)察(cha)到的图集(ji)合中直(zhi)接学习生成模型的方法，这是提高生成图的保真度的重要一步。它为新类型的应用铺平了道路，如发现新的藥(yao)物[17]，[18]，和蛋白质结构建模[19]，[20]，[21]。深度生成模型的最新进展，如變(bian)分自編(bian)码器(qi)(VAE)[22]和生成对抗(kang)网络(GAN)[23]，已被(bei)提出用于生成图的许多深度学习模型，这些模型形式化了用于生成图的深度生成模型的有前途(tu)的领域，这是本综述的重点。

在深度图生成方面已经开展了各种先进的工作，从一次性图生成到順(shun)序(xu)图生成过程，适应了各种深度生成学习策(ce)略(lve)。这些方法旨在通过不同(tong)领域的工作解決(jue)上述挑战中的一个或(huo)几个，包括机器学习、生物信(xin)息(xi)学、人工智能、人类健(jian)康(kang)和社交网络挖(wa)掘(jue)。但是，不同的研究领域开发的方法往(wang)往使用不同的詞(ci)匯(hui)，从不同的角(jiao)度解决问题。

本文提出一种用于图生成的深度生成模型分类法，按(an)问题设置(zhi)和方法进行分类。介(jie)紹(shao)了不同子类别之間(jian)的優(you)缺(que)点和关系。对用于图生成的深度生成模型以及基礎(chu)的深度生成模型进行了詳(xiang)細(xi)的描述、分析和比较。

我(wo)们总结和分类现有的评估程序和指标，基準(zhun)数据集和对应的图生成任(ren)務(wu)的深度生成模型的结果(guo)。

我们介绍了图深度生成模型的现有应用领域，以及它们给这些应用帶(dai)来的潛(qian)在好处和机会。

我们提出了用于图生成的深度生成模型领域的几个开放问题和有前途的未来研究方向。

用于图生成的无条件深度生成模型

无条件深度图生成的目(mu)的是通过深度生成模型从真实分布p(G)中抽(chou)样的一組(zu)观察到的真实图来学习分布pmodel(G)。根(gen)据生成过程的風(feng)格(ge)，我们可以将这些方法分为两个主(zhu)要分支(zhi):(1)顺序生成:按顺序依次生成节点和邊(bian);(2)一次生成:根据矩(ju)陣(zhen)表示建立(li)一个概率(lv)图模型，一次生成所有节点和边。这两种生成图的方法各有优缺点。顺序生成雖(sui)然高效(xiao)地執(zhi)行了前一种生成的局部(bu)决策，但在保持(chi)長(chang)期(qi)依赖性方面存(cun)在困(kun)難(nan)。因(yin)此，图的一些全(quan)局属性(如无标度属性)很难包含进去。此外，现有的关于序列(lie)生成的工作僅(jin)限于预先定义的序列的顺序，从而留(liu)下(xia)了排(pai)列的作用。一次性生成方法可以通过多次叠(die)代同步生成和细化整(zheng)个图(即(ji)节点和边)，从而对图的全局属性进行建模，但由于需(xu)要对节点之间的全局关系进行集體(ti)建模，其時(shi)间复杂度通常超(chao)过O(N2)，因此大多数方法难以擴(kuo)展到大型图。

用于图生成的条件深度生成模型

条件深度图生成的目标是根据观察到的一组现实图G及其对应的輔(fu)助(zhu)信息(即条件y)学习条件分布pmodel(G|y)。辅助信息可以是类别标簽(qian)、语义上下文、来自其他分布空(kong)间的图等。与无条件深度图生成相比，条件生成除(chu)了在生成图方面的挑战外，还需要考虑如何从给定条件中提取(qu)特征(zheng)并将其整合到图的生成中。

因此，为了系统地介绍现有的条件深度图生成模型，我们主要描述这些方法如何处理条件。由于条件可以是任何形式的辅助信息，因此它们被分为三(san)种类型，包括图、序列和语义上下文，如图1中分类法樹(shu)的黃(huang)色(se)部分所示

參(can)考資(zi)料(liao)：

https://mp.weixin.qq.com/s/aqIeqHoeJtRyh3B5dhhcDA返(fan)回(hui)搜(sou)狐(hu)，查(zha)看(kan)更多

責(ze)任编輯(ji)：