引言:当深度学习遇上图结构数据
传统的深度学习模型——CNN擅长处理网格数据(图像),RNN擅长处理序列数据(文本)。但在现实世界中,大量重要数据天然以图的形式存在:社交网络(用户为节点、关注为边)、分子结构(原子为节点、化学键为边)、知识图谱(实体为节点、关系为边)、交通网络(路口为节点、道路为边)。图神经网络(Graph Neural Network, GNN)正是处理这些非欧几里得数据的利器。
一、图的基本数学表示
一个图 G = (V, E) 由节点(顶点)集合 V 和边集合 E 组成。在图神经网络中,我们需要以下数学工具:
- 邻接矩阵 A:N×N矩阵,A_ij = 1 表示节点i和j之间有边(N为节点总数)
- 度矩阵 D:对角矩阵,D_ii = Σ_j A_ij(节点i的度)
- 拉普拉斯矩阵 L = D - A:图论和图谱理论的核心算子
- 对称归一化拉普拉斯 L_sym = D^{-1/2} L D^{-1/2} = I - D^{-1/2} A D^{-1/2}
二、消息传递框架:GNN的统一视角
现代几乎所有GNN变体都可以纳入消息传递神经网络(Message Passing Neural Network, MPNN)框架。每一层的更新包含两个步骤:
Message步骤:m_ij = MSG(h_i, h_j, e_ij) — 由源节点特征、目标节点特征和边特征计算消息
Update步骤:h_i_new = UPD(h_i, AGG({m_ij | j ∈ N(i)})) — 聚合邻居消息并更新节点特征
其中 AGG 是聚合函数(Mean、Sum、Max 等),N(i) 是节点 i 的邻居集合。经过 k 层传播后,每个节点表示融入了 k 跳邻居的信息。
三、主流GNN变体
GCN(图卷积网络):Kipf & Welling (2016),使用对称归一化的邻接矩阵进行特征传播。每层公式:H^(l+1) = σ(D̃^{-1/2} Ã D̃^{-1/2} H^(l) W^(l)),其中 Ã = A + I(添加自环),D̃ 是 Ã 对应的度矩阵。GCN可以视为拉普拉斯平滑的近似。
GraphSAGE:Hamilton et al. (2017),摒弃了全图操作,改为对每个节点的邻居进行采样(固定数量),然后聚合。从Transductive变为Inductive——可以处理训练时未见过的节点。聚合方式包括Mean、LSTM、Pooling等。
GAT(图注意力网络):Veličković et al. (2018),引入注意力机制为不同邻居分配不同重要性权重。注意力系数 α_ij = softmax_j(LeakyReLU(a^T [Wh_i || Wh_j])),最终 h_i_new = Σ_j α_ij Wh_j。GAT让模型自动学习"谁的消息更重要"。
四、图级别任务:图分类与图回归
许多任务需要输出整个图的表示(如分子性质预测),这就需要图池化(Graph Pooling)操作将节点特征压缩为图级别特征:
- Global Mean/Max/Sum Pooling:最简单的池化方式,分别对节点特征取均值、最大值或求和
- Set2Set:基于LSTM的注意力池化,需要多次迭代
- SAGPool:自注意力图池化,根据节点的重要性分数保留top-k节点
- DiffPool:可微的层次化池化,学习软聚类分配矩阵,将节点聚合并缩减
- TopK Pooling:学习投影分数,保留前K个节点,自动稀疏化图
五、药物发现中的GNN应用
分子天然适合图表示建模:原子是节点,化学键是边。原子类型、手性、是否环内等作为节点特征,化学键类型、共轭状态等作为边特征。
分子性质预测:预测分子的溶解度(LogP)、药物相似性(QED)、毒性、生物活性等。2020年DeepMind的AlphaFold在蛋白质结构预测中的突破也受益于图注意力机制。
药物-靶点相互作用预测:将药物分子图和蛋白质图联合建模,预测二者结合亲和力。
分子生成:利用GNN编码分子,结合VAE或强化学习生成具有特定性质的新分子骨架。2022年MIT团队使用GNN-Agent探索化学反应网络,自动化合路径规划。
六、推荐系统:从协同过滤到图范式
用户-交互行为天然形成二部图:用户节点和商品节点,点击/购买/收藏等行为构成边。基于GNN的推荐系统优势在于:
- 协同信号(collaborative signal)沿图边自然传播
- 高阶交互(multi-hop)可以被消息传递显式建模
- 商品的属性图和社交关系图可以自然地融合
LightGCN(He et al., 2020)证明了在GCN中去掉特征变换和非线性反而效果更好——对推荐任务来说,保留图结构中的协同信号比学习复杂特征变换更重要。
七、大规模图训练的工程挑战
真实图数据(如社交网络数十亿边)无法放入GPU显存,需要特殊训练策略:
- 小批量训练(Mini-batch Training):GraphSAGE式的邻居采样——每层固定采样k个邻居,将计算限制在局部子图
- Cluster-GCN:将大图划分为稠密子图(cluster),在子图内做全邻居消息传递,子图间不传播
- GraphSAINT:基于重要性采样的子图训练方法,通过归一化保持无偏估计
- GraphSaint + GAT:在大规模图上的准确率接近全图训练,但速度提升数十倍
八、图大模型的崛起(2023-2026)
2023年以来,图领域也迎来了"大模型"浪潮:
- GraphGPT:利用LLM生成图任务的解决方案代码,通过文本指令操作图
- GraphLLM:将节点描述文本化,利用LLM的推理能力增强GNN特征
- GIANT:万亿参数的图预训练模型,在万节点规模图上预训练,下游任务微调
- OpenGraph:大规模基准图数据集,推动图基础模型评估标准化
LLM + GNN的混合架构成为研究热点:LLM处理图中的文本节点描述,GNN建模图结构信息,二者通过交叉注意力融合。
九、未来展望
图神经网络正从实验室走向产业落地。在药物发现领域,GNN加速了新药分子筛选;在推荐系统中,图范式带来了更好的长尾推荐;在芯片设计中,GNN辅助布局规划;在知识图谱中,GNN提升了推理能力。随着图大模型的持续突破和训练效率工具的完善,GNN将在更多场景发挥不可替代的作用——毕竟,世界万物皆联结成网。

发表评论 取消回复