所有文章 > 正文

动态网络嵌入的相关研究

作者: 赵亦峰

浏览量: 665

时间: 2019-07-03 10:19

关键词: 动态网络嵌入

在真实场景中,节点之间的关系往往以动态网络的形式存在。虽然一些归纳的静态网络嵌入技术(如 DeepWalk、GraphSAGE 等)在已知新节点的连接关系后仍然可以通过归纳的形式推导出新节点的嵌入表示,但是这些方法在应对初始网络也发生动态变化的情况时则需要消耗大量时间重新训练以适应新的网络结构。

因此,国内外的研究者基于动态网络的特性提出了一些有意义的动态网络嵌入表示技术。按照动态网络的类型不同,动态网络嵌入技术主要可以分成两种类型,一种类型是基于增量网络的动态网络嵌入技术,另一种类型是基于时刻子图的动态网络嵌入技术。


CTDNE[23] 假设了动态网络为增量网络,每条边都有一个属性表示存在时间。 其在传统的随机游走策略上考虑了边的时序性,提出了一种全新的时序游走策略。 在随机游走的基础之上,时序游走必须按照边的出现时间递增的特性进行节点序列的生成。除此之外,时序游走在边的抽样上也采取了不同于随机游走的策略,其抽样概率正比于每个候选边的出现时刻与游走序列的最小时间的差异的指数值, 这能引导游走尽可能地捕捉时序上相近的链路,从而对网络节点的嵌入表示进行时间上的聚类。

DNE[14] 假设动态网络为时刻子图的序列,研究主要关注点是新加入的节点和链路对网络嵌入如何更新优化。其利用 LINE 的二阶相似性推导出由节点网络结 构表示的优化目标的理论值:


然后根据新添加的边的类型不同(包括两个端点都是新增的节点或者只有一个端点是新增节点)分别计算对应节点嵌入对应的优化目标。DNE 认为增量地加入新边对网络中绝大多数的节点嵌入影响不大,往往只需要更新小部分的节点嵌入即可。新节点的嵌入可以很快地通过该理论上的优化目标值确定。而网络原有节点的嵌入,则需要先根据期望的优化目标值与上一时刻节点嵌入表示计算得到优化目标值的差异值,选择其中差异值最大的前 𝑘 个节点来快速更新其嵌入。实 验进一步论证了,DNE 在保持精度的同时,时间消耗不到 LINE 的四分之一。


利用动态网络中的三角闭合过程(Triadic Closure Process),DynamicTriad[15] 认为节点嵌入在保持动态网络的一阶相似性以及其时序相似性的同时,需要对网络中三角结构的形成有预测能力。三角结构在社交网络的分析中具有非常重要的作用,闭三角往往非常稳定,在动态网络中能存在很长时间。其将 t 时刻的以节点 𝑣𝑘 为中心的开三角转变成闭三角的概率用节点嵌入表示:



DynamicTriad 通过预测开三角变成闭三角的概率,来更新三角中每个节点嵌入的表示。在动态网络中,这样的预测方式是在保留闭三角的结构信息,让闭三角的节点嵌入更加接近,相当于利用三角结构对节点嵌入进行更进一步的聚类。


TNE[13] 是一种基于矩阵分解的动态网络嵌入方法,其的优化目标同时维护两部分:一部分是当前时刻的网络嵌入能尽可能重构对应时刻子图的邻接矩阵,另 一部分是当前时刻的网络嵌入与前一时刻的网络嵌入具有时序上的连续性。具体的目标函数可以表示成如下:




公式左边是当前的时刻子图的矩阵分解,右边是保证网络嵌入的时序连续性。 由于对每个时刻子图的矩阵分解时间开销较大,TNE 还采用了增量的梯度更新方法,若当前时刻节点的邻接信息与前一时刻一致,那么其当前时刻的网络嵌入由前一时刻代替,不在主动更新该节点在这一时刻的嵌入表示。这种梯度更新策略 大幅减少了需要计算的网络嵌入,大大提高了计算效率。

[13] ZhuL,GuoD,YinJ,etal.Scalable temporal latent space inference for link predictionin dynamic social networks[J]. IEEE Transactions on Knowledge and Data Engineering, 2016, 28(10):2765- 2777.

[14] Du L, Wang Y, Song G, et al. Dynamic network embedding: An extended approach for skip-gram based network embedding.[C]//IJCAI. [S.l.: s.n.], 2018: 2086-2092.

[15] Zhou L, Yang Y, Ren X, et al. Dynamic network embedding by modeling triadic closure process [C]//Thirty-Second AAAI Conference on Artificial Intelligence. [S.l.: s.n.], 2018.

[关于转载]:本文为“AMiner”官网文章。转载本文请联系原作者获取授权,转载仅限全文转载并保留文章标题及内容,不得删改、添加内容绕开原创保护,且文章开头必须注明:转自“AMiner”官网。谢谢您的合作。

扫码微信阅读
[关于转载]:本文转载于赵亦峰,仅用于学术分享,有任何问题请与我们联系:report@aminer.cn。