基于图卷积网络的图深度学习

Posted 2020-09-30

        基于图卷积网络的图深度学习

先简单回顾一下，深度学习到底干成功了哪些事情！

深度学习近些年在语音识别，图片识别，自然语音处理等领域可谓是屡建奇功。ImageNet：是一个计算机视觉系统识别项目， 是目前世界上图像识别最大的数据库，并且被业界熟知。
我们先回顾一下，没有大数据支撑的欧式深度学习技术。对于一个字母“Z”的识别，我们通常是建立一个2D网格（点阵），如果将其中的点连接起来，定义这样的连接方式所形成的就是“Z”。然后是用其他字母来测试，这个模型的正确性。

传统深度学习的方法，实际上就是一种手工设计特征的过程。而且，在准确率上没有保障。而真正的深度学习，端到端的学习，其中的过程到底发生了什么，设计者什么也不知道，自然也不会人为的去干涉。


如果数据不能网格化，那么CNNs就失去了作用。所以，CNNs在一定程度上还是有很多缺陷的。例如图结构数据，如何处理？在现实世界中这样的例子很多很多：社交网络（著名的六度理论），万维网，知识图，等等这些都是图结构，不是网格结构，对于这些我们该怎么解决。


下面是一个简单的解决图结构数据的方法。

这个方法到底会出现什么样的问题呢？为了解决问题，我们需要什么呢？

先简单介绍一下第一阶消息传递的GCNs，这个理论在2009年就已经被提出来了。

接下来，我们了解一下GCN模型架构！

GCN模型架构到底能干什么呢？先举个小栗子。

GCN模型与大名鼎鼎魏勒雷曼算法的关系到底是什么样的呢？


图的半监督分类也是一种不错的方法。

半监督分类嵌入方法——两步管道，这个方法也有一些问题，但我想这是可以解决的。

举个小栗子，视频链接是一个关于半监督学习的小例子，有兴趣的朋友可以去看一下。

视频：
http://tkipf.github.io/graph-convolutional-networks/
此外，还有关于引文网络的分类，也可以 通过这个方法实现。

下面2-layerGCN模型的实验结果


还要一些这个方法最近应用到其他程序的案例。

用这个方法关于图auto-encoders链接的预测。下面是auto-encoders的介绍

Autoencoders
进一步的阅读
Blog post Graph Convolutional Networks:
http://tkipf.github.io/graph-convolutional-networks
Code on Github:
http://github.com/tkipf/gcn
Kipf & Welling, Semi-Supervised Classification with Graph Convolutional Networks, ICLR 2017:
https://arxiv.org/abs/1609.02907
Kipf & Welling, Variational Graph Auto-Encoders, NIPS BDL Workshop, 2016: https://arxiv.org/abs/1611.07308