2020-11-28

最近参加了百度的图神经网络课程,在这里分享一些心得体会~

一、课程介绍

百度的PGL团队

day1:图学习初印象
图学习概述、入门路线
实践:环境搭建

 

day2:图游走类模型
DeepWalk、node2vec、metapath2vec、metapath2vec 变种模型
实践:DeepWalk, node2vec

 

day3:图神经网络算法(一)
GCN、GAT、消息传递机制
实践:GCN、GAT

 

day4:图神经网络算法(二)
图采样、邻居聚合
实践:GraphSage

 

day5:GNN进阶
ERNIESage, UniMP
实践:ERNIESage代码讲解

 

day6:新冠疫苗项目拔高实战,助力疫情防控!

 

参考链接:

斯坦福CS224W课程:http://cs224w.stanford.edu
图学习库 PGL:https://github.com/PaddlePaddle/PG

二、PGL框架介绍

Paddle Graph Learning (PGL)是一个基于PaddlePaddle的高效易用的图学习框架。

PGL框架上手比较快,使用框架最核心的步骤就是自己定义好消息传递就好了。

参考链接:

https://github.com/PaddlePaddle/PGL/blob/main/README.zh.md

 

三、一些心得体会

1. 关于一些图神经网络的基本理论的介绍,小斯妹老师介绍的真的非常通俗易懂,想入门图神经网络的小伙伴可以去学习一下,而且百度的aistudio还提供了超强GPU算力,非常适合我们进行高效的学习,力荐!!!

这是课程的视频链接:https://www.bilibili.com/video/BV1rf4y1v7cU

这是课程的ppt链接:https://github.com/PaddlePaddle/PGL/tree/main/course

这是aistudio的链接:https://aistudio.baidu.com/aistudio/index

2. 第一节课才知道,图神经网络竟然还能用在3D目标检测上。

点云:是通过激光点云获得的,每一个点包含有三维坐标,有些可能含有颜色信息或反射强度信息。

我们设置一个阈值,如果点云中某两个点的距离小于这个阈值,则视这个点之间存在边。这样我们就能构造出一张图了。

接下来,利用图神经网络,我们可以让它输出每个点所属的对象,并给出bounding box,这样就实现了3D目标检测,3D目标检测主要是用在自动驾驶上的,这对于后续自动驾驶场景中的路径规划和控制具有至关重要的作用。

2020-11-28

 

3.还有一个有意思的应用是气味识别:

这个研究的主要是通过分子结构去预测气味。

2020-11-28

4. 关于node2vec,是在deepwalk的基础上进行改进的,因为deepwalk只是相当于是一个可以回头的DFS,而node2vec既会进行DFS,也会进行BFS随机游走。

2020-11-28

5.图卷积网络讲的挺形象的,跟着小斯妹老师的讲解真的是秒懂,之前看了一些相关的讲解也没搞太懂。

比如说公式里面的AH相当于是在图里面找出相邻的结点再进行消息传递。

2020-11-28

而D矩阵的作用是给边加权,比如一个结点的度越大,说明它对你自己的传递的信息越有限,因此我们要将它的边权设置小一些。

2020-11-28

2020-11-28

6. PinSAGE 按照游走的经过的频率选取邻居,也就是说,可能原本是二阶或者三阶的邻居,但是经过它们的频率比较高,也可以把它们看作是1阶邻居。

7. 还有两个百度自研的模型,理解不是很深,这里就不说了,反正很厉害就对了。

四、比赛

一个利用图神经网络进行结点分类的比赛:

附上比赛链接:https://aistudio.baidu.com/aistudio/competition/detail/59

理论上用上百度的UniMP效果应该是最好的。

五、总结

经过了这次7日打卡营的活动让我对图神经网络领域有了比较深入的了解.也希望以后可以有更多类似的机会可以学习到更多深度学习的内容,也希望飞桨可以越来越好。

上一篇:1056024-94-2,Azido-PEG3-acid,N3-PEG3-COOH,叠氮-三乙二醇-丙酸


下一篇:c语言 10-3