文章目录
- 1、Abstract
- 2、Introduction
- 3、Contributions
- 4、Related work
- 5、The Graph Few-Shot Learning
- 6、Framework
- 7、模型训练
- 8、模型测试
1、Abstract
- 对于具有挑战性的半监督节点分类问题，已经有了广泛的研究。
- GNN通过聚合邻居的信息来更新每个节点的表示；然而，大多数GNN层较浅，接收域有限，可能无法达到令人满意的性能，特别是当标记节点的数量相当少的时候。
- 为了解决这一挑战，我们创新性地提出了一种图小样本学习(GFL)算法，该算法融合了从辅助图中学习的先验知识，以提高目标图的分类精度。
- 辅助图与目标图之间共享一个以节点嵌入和特定于图的原型嵌入函数为特征的可转移度量空间，促进了结构知识的转移。
2、Introduction
- gnn通过汇聚(或消息传递)每个节点的特征，递归地更新每个节点的特征，从而捕获图拓扑和节点特征的模式。但是考虑到增加更多的层会增加训练的难度和节点特征的过度平滑，大多数现有的gnn具有浅层，接受域受到限制。因此，gnn不能很好地描述全局信息，当标记节点的数量特别少时，其工作效果也不理想。
- 受最近成功的几次学习的启发，我们从创新的角度出发，利用从辅助图（基类）中学到的知识来改进我们感兴趣的目标图中的半监督节点分类。背后的直觉在于辅助图和目标图可能共享局部拓扑结构以及类依赖的节点特征。例如，谷歌的现有社交网络同事群为预测亚马逊新出现的社交网络同事群的用户兴趣提供了有价值的线索。
- GFL的基本思想是学习一个可转移的度量空间，在这个空间中，节点的标签被预测为最接近该节点的原型的类别。度量空间实际上是用两个嵌入函数来表示的，嵌入一个节点和每个类的原型。
- 首先，GFL使用以gnn为骨干的图形自动编码器来学习每个节点的表示。其次，为了更好地捕获全局信息，我们建立了属于同一类的所有示例的关系结构，并将原型GNN应用到关系结构中来学习该类的原型。
- 最重要的是，将加密结构化知识的两个嵌入函数从辅助图（基类）转移到目标图（新类），以弥补标记节点的不足。除了两个节点级结构之外，注意我们还通过一个层次图表示门来制作图级别表示，以强制相似的图具有相似的度量空间。
3、Contributions
- 据我们所知，利用知识转移来改进图中的半监督节点分类是开创性工作。
- 我们提出了一种新的图小样本学习模型(GFL)来解决这个问题，它同时在图之间传输节点级和图级结构。
- 在四个节点分类任务上的综合实验验证了GFL算法的有效性。
4、Related work
4.1 GNN
GNN有两种方法，基于谱域和空域。谱方法主要在谱域学习图的表示，其中学习滤波器是基于拉普拉斯矩阵的。对于非谱方法，基本思想是开发一个聚合器来聚合局部特征集。其基本模型如下：
4.2 Few-Shot Learning Methods
- 基于梯度的小样本学习方法，旨在学习更好的初始化模型参数，可以在未来的任务中通过几个梯度步骤进行更新，或者直接使用元优化器来学习优化过程。
- 基于度量的小样本学习方法，提出从训练任务中学习广义度量和匹配函数。
我们提议的GFL属于第二类。这些传统的基于参数的小样本学习方法专注于独立和相同分布的数据，它们之间不存在明确的交互。
5、The Graph Few-Shot Learning
本文在概率分布