7.2 图卷积算子,图卷积的演变过程 意境级讲解

Posted 炫云云

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了7.2 图卷积算子,图卷积的演变过程 意境级讲解相关的知识,希望对你有一定的参考价值。

第一代图卷积

论文1中谱图卷积的思想是:既然无法直接在空域对图进行卷积,那么将图信号映射到频域后再做卷积操作。

1、需要Graph上的傅里叶变换和卷积定理等知识:

5.5 卷积、卷积定理和傅里叶变换的关系及其性质_炫云云-CSDN博客

5.10 图上的傅里叶变换和逆变换_炫云云-CSDN博客

2、图卷积

在上面的基础上,利用卷积定理类比来将卷积运算,推广到Graph上。

卷积定理:函数卷积的傅里叶变换是函数傅立叶变换的点积,即对于函数 f ( t ) f(t) f(t) g ( t ) g(t) g(t)两者的卷积是其函数傅立叶变换点积逆变换
f ∗ g = F − 1 [ f ^ ( ω ) g ^ ( ω ) ] = 1 2 Π ∫ f ^ ( ω ) g ^ ( ω ) e i ω t d ω (1) f*g=\\mathscr{F}^{-1}\\left[ \\hat{f}(\\omega)\\hat{g}(\\omega) \\right]=\\frac{1}{2\\Pi}\\int_{}^{} \\hat{f}(\\omega)\\hat{g}(\\omega)e^{i\\omega t} d\\omega \\tag1 fg=F1[f^(ω)g^(ω)]=2Π1f^(ω)g^(ω)eiωtdω(1)
根据公式 (1)与文章图上的傅里叶变换和逆变换中图上的傅里叶变换公式,图信号 x x x 与卷积核 g g g 在图上的卷积可按下列步骤求出:
( g ∗ x ) G = F − 1 [ F g ⋅ F x ] = F − 1 [ U T g ⋅ U T x ] = F − 1 [ g ^ ⋅ U T x ] (2) \\begin{aligned} ( g*x)_{G} &=\\mathscr{F}^{-1}[ \\mathscr{F}{g} \\cdot \\mathscr{F}{x} ] \\\\ &=\\mathscr{F}^{-1} \\left[ \\mathbf{U}^{T} g \\cdot \\mathbf{U}^{T} x\\right] \\\\&= \\mathscr{F}^{-1} \\left[ \\hat g \\cdot \\mathbf{U}^{T} x\\right] \\end{aligned} \\tag 2 (gx)G=F1[FgFx]=F1[UTgUTx]=F1[g^UTx](2)
上式表示时域信号 x x x g g g (卷积核等等 ) ) ) 的卷积等价于将信号转换到频谱域做点乘后再逆变换回来。其中, 向量 x x x 与向量 g ^ \\hat{g} g^ 的元素点积,等价于将 g ^ \\hat{g} g^ 组织成对角矩阵的 形式进行矩阵乘法, 可得:

卷积核 g g g 的傅里叶变换写成对角矩阵的形式即为: ( g ^ ( λ 1 ) ⋱ g ^ ( λ N ) ) \\left(\\begin{matrix}\\hat g(\\lambda_1) & \\\\&\\ddots \\\\ &&\\hat g(\\lambda_N) \\end{matrix}\\right) g^(λ1)g^(λN)

g ^ ( λ l ) = ∑ i = 1 N g ( i ) u l ∗ ( i ) \\hat{g}(\\lambda_l)=\\sum_{i=1}^{N}{g(i) u_l^*(i)} g^(λl)=i=1Ng(i)ul(i)根据需要设计的卷积核 g g g在Graph上的傅里叶变换。

两者的傅立叶变换乘积即为: ( g ^ ( λ 1 ) ⋱ g ^ ( λ N ) ) U T x \\left(\\begin{matrix}\\hat g(\\lambda_1) & \\\\&\\ddots \\\\ &&\\hat g(\\lambda_N) \\end{matrix}\\right)U^Tx g^(λ1)g^(λN)UTx,即
( g ∗ x ) = F − 1 [ g ^ ⋅ U T x ] = F − 1 [ diag ⁡ [ g ^ 1 , … , g ^ N ] U T x ] (3) \\begin{aligned} ( g*x) &=\\mathcal{F}^{-1}\\left[\\hat g \\cdot \\mathbf{U}^{T} x\\right] \\\\ &=\\mathcal{F}^{-1}\\left[\\operatorname{diag} \\left[\\hat{g}_{1}, \\ldots, \\hat{g}_{N}\\right] \\mathbf{U}^{T} x\\right] \\end{aligned} \\tag 3 (gx)=F1[g^UTx]=F1[diag[g^1,,g^N]UTx](3)
根据图上的逆变换计算公式,再乘以 U U U 求两者傅立叶变换乘积的逆变换,则求出卷积:
( g ∗ x ) = U ( g ^

以上是关于7.2 图卷积算子,图卷积的演变过程 意境级讲解的主要内容,如果未能解决你的问题,请参考以下文章

5.9拉普拉斯矩阵的谱分解,谱图卷积,图卷积演变过程

四 图卷积的公式推导

论文解读丨基于局部特征保留的图卷积神经网络架构(LPD-GCN)

图卷积神经网络GCN的一些理解以及DGL代码实例的一些讲解

神经网络的学习方式网络传播和图卷积,两者到底什么关系?

从图(Graph)到图卷积(Graph Convolution):漫谈图神经网络模型