Faster RCNN之进化史

Faster RCNN之进化史

1.RCNN

1.1 算法流程

(1)在一张图像中通过SS算法生成1K~2K个候选区域
(2)对每一个候选区域通过深度网络提取特征
(3)特征送入每一类的SVM分类器,判断是否属于该类,之后通过nms为每一类候选框进行筛选。
(4)使用回归器精确修正候选框位置

1.2 网络模型

Faster RCNN之进化史

1.3 RCNN存在的问题

(1)测试速度慢:测试一张图片约53s(CPU)。用Selective Search算法提取候选框用时约2s,一张图像内候选框之间存在大量重叠,提取特征操作冗余。
(2)训练速度慢:过程及其繁琐
(3)训练所需空间大:对于SVM和bbox回归训练,需要从每个图像中的每个目标候选框提取特征,并写入磁盘。对于非常深的网络,如VGG16,从VOC07训练集上的5k图像上提取的特征需要数百GB的存储空间。

2.Fast RCNN

2.1 算法流程

(1)一张图像生成1K~2K个候选区域
(2)将图像输入网络得到相应的特征图,将SS算法生成的候选框投影到特征图上获得相应的特征矩阵
(3)将每个特征矩阵通过ROI pooling层缩放到7×7大小的特征图,接着讲特征图展平通过一系列全连接层得到预测结果

2.2 网络模型

Faster RCNN之进化史
RCNN依次将候选区域输入卷积网络得到特征,这样的话在产生的多个候选区域中存在着大量的冗余区域,因此导致了RCNN速度慢,而Fast RCNN则是将整张图片送入网络,紧接着从特征图上提取相应的候选区域,这些候选区域的特征将不会重复。
这里我要说几点 :
在Fast RCNN中得到候选区域的特征,我们并不会使用全部的候选区域特征送入后续的分类和回归分支,而是选取一部分数量相当的正负样本,而这里的正负样本是根据与Ground Truth的IOU来定义的,使用数量相当的正负样本是为了让模型做出公平的判断,不偏于任何一方。

分类器的输出是N+1个类别的其中N为检测目标的种类,1为背景类。

边界框回归器 输出对应N+1 个类别的候选边界框回归参数( d x , d y , d w , d h d_x,d_y,d_w,d_h dx​,dy​,dw​,dh​),共(N+1)×4个节点。
Faster RCNN之进化史
其中 P x , P y , P w , p h P_x,P_y,P_w,p_h Px​,Py​,Pw​,ph​分别是候选框的中心x,y坐标,以及宽高, G ^ x , G ^ y , G ^ w , G ^ h \hat G_x,\hat G_y,\hat G_w,\hat G_h G^x​,G^y​,G^w​,G^h​分别为最终预测的边界框中心x,y坐标,以及宽高。

2.3 损失函数

Faster RCNN之进化史
其中p是分类器预测的softmax概率分布 p = ( p 0 , . . . , p k ) p=(p_0,...,p_k) p=(p0​,...,pk​)
u对应目标真实类别标签
t u t^u tu对应边界框回归器预测的对应类别u的回归参数 ( t x u , t y u , t w u , t h u ) (t_x^u,t_y^u,t_w^u,t_h^u) (txu​,tyu​,twu​,thu​)
v对应真实目标的边界框回归参数 ( v x , v y , v w , v h ) (v_x,v_y,v_w,v_h) (vx​,vy​,vw​,vh​)
[u>=1]是艾弗森括号,指的是如果u>=1则为1,否则为0
其中分类损失为交叉熵损失:
Faster RCNN之进化史
回归损失:
Faster RCNN之进化史

3.Faster RCNN

3.1 算法流程

(1)将图像输入网络得到相应的特征图
(2)使用RPN结构生成候选框,将RPN生成的候选框投影到特征图上获得相应的特征矩阵
(3)将每个特征矩阵通过ROI pooling层缩放到7×7大小的特征图,接着将特征图展平通过一系列全连接层得到预测结果

3.2 网络模型

Faster RCNN之进化史
其中RPN结构如下所示:
Faster RCNN之进化史
对于一张1000×600×3的图像,大约有60×40×9(20k)个anchor,忽略跨越边界的anchor以后,剩下约6k个anchor。对于RPN生成的候选框之间存在大量重叠,基于候选框的cls得分,采用非极大值抑制,IOU设为0.7,这样每张图片只剩2k个候选框。

感受野计算公式:F(i)=(F(i+1)-1)×stride+Ksize

在产生的候选框中,我们并不是使用全部的候选框,而是选取一定数量的正负样本候选框,其比例尽量控制在1:1,如果正样本数量不够,可以通过负样本来补充。 而正样本的设置有两个条件:一是anchor与ground-truth有最大的交并比,而是与ground-truth的交并比超过0.7,可以看出第一个条件其实就是对第二个条件的补充,大多数情况下第二个条件就可以选出相应的正样本。 而负样本则是与ground-truth的交并比低于0.3。

4.损失函数

RPN损失:
Faster RCNN之进化史
其中 p i p_i pi​表示第i个anchor预测为真实标签的概率
p i ∗ p_i^* pi∗​当为正样本时为1,当为负样本时为0
t i t_i ti​表示预测第i个anchor的边界框回归参数
t i ∗ t_i^* ti∗​表示第i个anchor对应的GT Box
N c l s N_cls Nc​ls表示一个mini-batch中的所有样本数量256
N r e g N_reg Nr​eg表示anchor位置的个数(不是anchor个数)约为2400

分类损失有两种:
(1)Softmax Cross Entropy:

Faster RCNN之进化史
(2)Binary Cross Entropy:
Faster RCNN之进化史

上一篇:Leetcode No.141 Linked List Cycle环形链表(c++实现)


下一篇:7月面试总结(CV岗面经)