学习笔记CS224W速记（图模型专题）

Posted 2022-06-10 囚生CY

序言

本文是对2021年秋季CS224W课程slides的速记，没有作业的解答。

CS224W其实看下来更偏向于是理论计算机方向的研究（比如图论），而非重点在图神经网络，因此很多内容理论性很强，本文是笔者花两天时间速过了一遍记录的一些对自己有用的要点，更偏向于图神经网络应用方面的摘要，一些没看懂的部分暂时没有深入研讨，仅先留个印象。

课程链接：http://web.stanford.edu/class/cs224w/

---

文章目录

• 序言
• • 节点中心度
  • 图基元
  • 计算两个节点之间路径总数的巧解
  • 图核
  • 节点嵌入之随机游走
  • 整图嵌入
  • PageRank算法
  • 二分图推荐
  • 节点分类之消息传递
  • 置换等变异性
  • GCN（mean-pool）
  • 消息计算与消息聚合
  • GraphSage（max-pool）
  • GAT
  • GNN使用技巧
  • GIN
  • 异构图
  • RGCN
  • 知识表示学习
  • 知识图谱与多级推理
  • 子图与Motif
  • 神经子图匹配（没有看懂）
  • 推荐系统
  • Louvain算法
  • GraphRNN
  • 一些前沿研究
  • LightGCN概述

---

节点中心度

给定无向图$G=(V,E)$，节点$v$的中心度（centrality）$c_v$用于衡量节点$v$的重要性，具体有如下几种计算方式：

1. 特征向量中心度（eigenvector centrality）：节点重要性由与它相邻节点的重要性决定
   $$c_v=\frac{1}{\lambda }\sum _{u\in N(v)}{c}_u\in \mathbb{R}$$
   其中$N(v)$表示节点$v$的邻接点，$\lambda >0$为标准化系数。

   求解上式等价于求解$\lambda \mathbf{c}=A\mathbf{c}$，其中$A$为无向图$G$的邻接矩阵，因此等价于求解$A$的特征值与特征向量，根据Perron-Fronbenius定理可知，${\lambda }_{\max }$必然为正，则通常使用最大特征值${\lambda }_{\max }$对应的特征向量${\mathbf{c}}_{\max }$作为式$(1)$的解。

2. 中介中心度（betweenness centrality）：节点重要性由它中转多少对节点之间的最短路径决定
   $$c_v=\sum _{s\ne v\ne t}\frac{\text{count(shortest paths between }s\text{ and }t\text{ that contain }v)}{\text{count(shortest paths between }s\text{ and }t)}\text{\hspace{1em}(2)}$$
   如在无向图$(A,C),(B,C),(C,D),(B,D),(D,E)$中，$c_A=c_B=c_E=0,c_C=c_D=3$

3. 紧密中心度（closeness centrality）：节点重要性由它与所有其他节点的距离之和决定
   $$c_v=\frac{1}{{\sum }_{u\ne v}\text{shortest path length between }u\text{ and }v}$$
   如在无向图$(A,C),(B,C),(C,D),(B,D),(D,E)$中，$c_A=1/8,c_D=1/5$

---

图基元

1. 首先定义图的同形（isomorphism）：称两个节点数相等的图$G_1=(V_1,E_1)$与$G_2=(V_2,E_2)$是同形的，若存在一一映射$f:V_1\to V_2$，使得$E_1=E_2$（比如五角星和五边形就是同形图）。

   判断两个图是否同形是NP-hard

2. 图基元（graphlets）：非同形的图构成的集合。

   

   比如上图中陈列节点数不超过$5$的所有图基元，节点上标号记录不同类型的图基元节点（如$G_8$中的$4$个节点本质上是同类）。

   节点数	图基元数量	累积不同图基元节点数量
   $2$	$1$	$1$
   $3$	$2$	$4$
   $4$	$6$	$15$
   $5$	$21$	$73$

   事实上图基元未必一定是连通图，但是上图和上表中统计的都是连通情况下的计数。

3. 图基元度向量（graphlet degree vectors，GDV）：

   节点$u$的GDV由它所在的子图中不同图基元节点出现频率构成。

   

   如上图所示，只考察节点数不超过$3$的图基元，共计$4$种不同的图基元节点$a,b,c,d$，考察节点 u u u以上是关于学习笔记CS224W速记（图模型专题）的主要内容，如果未能解决你的问题，请参考以下文章

   学习笔记CS224W速记（图模型专题）

   学习笔记CS224W速记（图模型专题）

   CS224W图机器学习笔记3-节点嵌入

   从零开始CS224W-图机器学习-2021冬季学习笔记13.2：Community Structure in Networks——BigCLAM算法

   CS224W摘要15.Deep Generative Models for Graphs

   CS224W摘要03.Node Embedding