本文主要是在推荐系统中对GNN的改进。在协同过滤中,主要是对用户-项目交互图进行建模。但是基于GNN的方法遇到了有限的接受域和嘈杂的“兴趣无关”连接的挑战。相比之下,基于Transformer的方法擅长于自适应地和全局地聚合信息但是在大规模交互图中的应用由于捕获复杂的纠缠结构信息的固有复杂性和挑战而受到阻碍。在本文中,我们提出了一种新的TransGNN模型,它交替地集成了Transformer层和GNN层,以相互增强它们的能力:TransGNN利用Transformer层来拓宽接受域,并从边缘分离出信息聚合,从而聚合来自更相关节点的信息,从而增强GNN的消息传递。此外,为了有效地捕获图结构信息,并集成到GNN层中,将结构知识编码到节点属性中,从而提高了变压器在图上的性能。通过提出对Transformer最相关节点的采样,以及两种有效的样本更新策略来降低复杂性,也减轻了效率的考虑。
相关文章
- 04-20【论文阅读】TransGNN-一、摘要
- 04-20《MobileFaceNet:一种用于移动设备实时人脸验证的高效CNN》论文阅读
- 04-20论文阅读|一阶段的目标检测器YOLOv4
- 04-20论文阅读|端到端的一阶段目标检测器OneNet
- 04-20CNN论文阅读(一) LeNet:Gradient-based learning applied to document recognition
- 04-20CO-GAT:一种用于联合对话行为识别和情感分类的交互式图注意力网络----论文阅读笔记
- 04-20论文阅读|YOLOF,丢弃FPN,只需要一个特征图来做目标检测
- 04-20【论文阅读笔记】Inverted Residuals and Linear Bottlenecks: Mobile Networks for Classification(又一次太长了写不开...)
- 04-20论文阅读笔记(一)——squeezenet
- 04-20Andrew Ng(吴恩达)关于机器学习职业生涯以及阅读论文的一些建议