(1)图G的拉普拉斯矩阵设为L,由于其是一个实对称矩阵,故可以被正交对角化,即
文章图片
(其中V是L的n个特征向量构造的正交特征矩阵,
文章图片
是V中特征向量对应的特征值)。同时,L作为图位移算子(空域角度,特殊的邻接矩阵),也在聚合节点的邻居特征中充当了图滤波器(频域角度)的角色。
(2)对于任意一个在图G上的信号x,其傅里叶变换为
文章图片
,这里将特征矩阵V称为傅里叶基,而
文章图片
是在傅里叶基上的傅里叶系数。
(3)由于V是一个正交矩阵,对上面(2)中的
文章图片
左乘V,则有
文章图片
,该过程称为傅里叶逆变换。
(4)在图信号处理中,我们将图滤波器定义为将图信号的频谱中各个频率分量的强度进行增强或者衰减。设图滤波器为H,输出信号为y,则:
文章图片
文章图片
我们称
文章图片
为图滤波器H的频率响应矩阵,对应的函数
文章图片
为H的频率响应函数。
(5)我们对H进行泰勒展开,有
文章图片
同时:
文章图片
而对于
文章图片
,有:
文章图片
所以,H可以写作泰勒级数形式(实际使用中,很多用进一步的切比雪夫多项式):
文章图片
后续知识点,可以详见:
https://blog.csdn.net/qq_40931181/article/details/89321770
https://github.com/wangyouze/GNN-algorithms
(6)为什么要用拉普拉斯矩阵进行图卷积呢?因为拉普拉斯算子
文章图片
是源特征(或原函数)在所有维度(方向)上进行微小变化后所获得的增益(变化)。对于图网络中的任意一点,该点上的拉普拉斯增益表示在所有邻接方向上的变化,可以计算(表示)为图拉普拉斯矩阵L与该点表示x的点积,这一特点同样推广到整张图。由于傅里叶变换是拉普拉斯谱分解的子形式,因此进一步可以表示成傅里叶变换的方式
文章图片
,具体的学习程度则要根据目标来确定卷积核参数(
文章图片
或者
文章图片
)。具体的原理和推导过程可见:https://mp.weixin.qq.com/s/7KD8i8YqhhRfW-_y3AphnQ
【深度学习|图神经网络中的谱变换】
推荐阅读
- C语言学习|第十一届蓝桥杯省赛 大学B组 C/C++ 第一场
- paddle|动手从头实现LSTM
- pytorch|使用pytorch从头实现多层LSTM
- 人工智能|干货!人体姿态估计与运动预测
- 推荐系统论文进阶|CTR预估 论文精读(十一)--Deep Interest Evolution Network(DIEN)
- Python专栏|数据分析的常规流程
- pytorch|YOLOX 阅读笔记
- 读书笔记|《白话大数据和机器学习》学习笔记1
- Pytorch学习|sklearn-SVM 模型保存、交叉验证与网格搜索
- 前沿论文|论文精读(Neural Architecture Search without Training)