组队学习-图神经网络 Taks 06

1、基于图同构网络(GIN)的图表征

     采用GINNodeEmbedding模块对图上每一个节点做节点嵌入(Node Embedding),得到节点表征;然后对节点表征做图池化得到图的表征;最后用一层线性变换对图表征转换为对图的预测。

    基于结点表征计算得到图表征的方法有:

    (1)sum:对节点表征求和;

    (2)mean:对节点表征求平均;

    (3)max:取节点表征的最大值,对一个batch中所有节点计算节点表征各个维度的最大值;

    (4)attention:基于Attention对节点表征加权求和

    (5)set2set: 基于Attention对节点表征加权求和的方法;

上一篇:论文阅读《Extracting Multiple-Relations in One-Pass with Pre-Trained Transformers》


下一篇:把BERT模型从单GPU训练转换到多GPU训练但出现StopIteration: Caught StopIteration in replica 0 on device 0.