图为使用提出的神经网络对点云进行分割的结果。底部为神经网络架构示意图。顶部为在网络的不同层上生成的特征空间的结构,红点到其他所有点的空间距离可视化(从左到右是输入和第1-3层的结果);最右边的图显示了分割的结果。尽管他们在原始输入空间上由很长的距离,我们可以观察到深层的特征空间结构如何捕获相似的语义信息,例如机翼、机身和涡轮机。点云本身是缺乏拓扑信息的,因此设计一个可以恢复利用拓扑信息的模型可以极大的丰富点云的表达能力。为此,我们提出一种新的神经网络模块EdgeConv
适用于基于CNN
的高维任务在点云的分类和分割任务上。这个网络可以嵌入到现有的各种网络当中。和目前在点云的外部进行处理(体素化)与对每个点进行处理(PointNet)相比,\(\color{red}{EdgeConv\ 有以下几个吸引人的特性}\):
- 它结合了局部邻域信息。
- 它可以学习全局形状属性。
- 在多层叠加之后,它可以在特征空间上捕捉到潜在的长距离的语义特征。
Introduction
PointNet
的方法实现了针对每个点进行独立操作,然后使用对称函数来实现置换不变性。关于PointNet
的扩展补充也只是考虑了点的邻域信息而不是单独作用域每个点,以此去利用网络的局部特征去提升模型的表现,这些技术主要在局部尺度上独立处理点,以保持置换不变性。然后这种独立性忽略了点和点之间的几何关系,这带来了无法捕获局部特征的基本限制。\(\color{red}{这里不知道怎么去理解}\)
我的理解是原先的
PointNet
没有考虑到局部特征,之后的补充方案例如PointNet++
考虑了这个缺点并补上了局部特征这个东西。
文中讲,这种独立的处理忽略了点与点之间的关系,导致缺少利用点云的拓扑信息。
这里提出的方案很好的利用了点云的拓扑信息。
为了解决这个问题,此处提出了一种新的操作,称为EdgeConv
,他在保持置换不变性的同时很好的捕获了局部集合结构。EdgeConv
并不会直接在它嵌入的地方生成点的特征,而是生成描述点与其相邻点之间关系的边
特征。
本文将EdgeConv
直接嵌入到PointNet
上,进行展示,可以发现其获得了巨大的性能提升。
主要贡献:
- 提出
EdgeConv
,以更好地捕获点云局部集合特征,并保持置换不变性。 - 我们在下面展示了我们的模型可以通过在层与层之间动态的更新关系图来学习对点进行语义分组。
- 我们演示了
EdgeConv
可以集成到多个现有的Pipline
中进行点云处理。 - 我们对
EdgeConv
进行了管饭的分析和测试,并表明他在基准数据集上实现了最佳性能。 - 这东西有源码。
相关工作
手工设计特征:集合数据处理和分析中的各种任务,包括分割、分类和匹配,都需要一些形状之间局部相似性的概念。传统上,这种相似性是通过构造捕获局部集合结构的特征描述符去建立起来的。
我们的方法
我们提出了一种受PointNet
和convolution
启发的方法。然而并不像PointNet
那样单独处理每个点,而是以图神经网络的精神,通过构造局部邻域图并在相邻点对的边上应用卷积式运算来利用局部集合结构。不像图CNNs
那样,我们的图不是固定的,而是在网络的每一层之后动态更新。