论文笔记:SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS

Posted UQI-LIUWJ

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了论文笔记:SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS相关的知识,希望对你有一定的参考价值。

ICLR 2017

1 abstract和intro部分

  • 问题的setting
    • 在图上进行节点分类,其中只有一部分节点有label        
    • ——>基于图的半监督学习
    • 传统的方法是使用平滑正则
        • 其中L0表示图中有监督部分的loss
        • f是神经网络,Δ=D-A表示unnormalized的拉普拉斯矩阵
      •  这种方式假设相邻的节点有相同/相似的label
        • ——>这种平滑性假设在一定程度上限制了模型的表达能力
    • 论文中直接使用一个神经网络f(X,A)来编码图结构
      • 提取学到的node embedding中,有label的那一部分,计算L0,以此进行训练

2 图卷积的快速估计

  • 考虑一个多层的GCN,其中第l层的propagation可以写成
      • ,A是邻接矩阵
      • W是第l层的可学习参数
      • σ是激活函数
      • 第零层=X

       

    • 论文接下来的部分将说明这种propagation将如何用一阶切比雪夫谱图卷积近似

2.1 谱图卷积

GNN笔记:图卷积_UQI-LIUWJ的博客-CSDN博客_gnn 多维图卷积中,我们有:

这个就是论文中的 

按照论文的说法,U是normalized 的拉普拉斯矩阵的特征向量矩阵

是x在图上的傅里叶变换

而切比雪夫多项式作为谱图卷积的卷积核,在 GCN笔记:Graph Convolution Neural Network,ChebNet_graphconv和gcnconv_UQI-LIUWJ的博客-CSDN博客

中说过(第2节)

这对应的是论文中的 

 2.2 一阶近似

切比雪夫一阶近似的推导,见GCN笔记:Graph Convolution Neural Network,ChebNet_graphconv和gcnconv_UQI-LIUWJ的博客-CSDN博客

第3节

对应的是论文中的 

3 半监督点分类

  •  ,那么(8)可以等价为
  • 论文中使用两层GCN
  • 由于问题是一个半监督多类别分类问题,所以最后衡量模型的方式是,对所有有标签的样例,使用交叉熵来进行评估

4 实验部分

4.1 数据集

 4.2 结果

 

 

 

 

以上是关于论文笔记:SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS的主要内容,如果未能解决你的问题,请参考以下文章

论文笔记:SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS

SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS 论文/GCN学习笔记

SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS 论文/GCN学习笔记

论文笔记之:Dynamic Label Propagation for Semi-supervised Multi-class Multi-label Classification ICCV 201

论文笔记之:Heterogeneous Image Features Integration via Multi-Modal Semi-Supervised Learning Model

论文笔记 CReST:A Class-Rebalancing Self-Training Framework for Imbalanced Semi-Supervised Learning