Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》

论文:《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》

1. Motivation

在CNN和RNN中引入attention机制:

  • RNN + attention:学习波谱内部相关性
  • CNN + attention:关注空间维的显著特征以及相邻像元的空间相关性

2. Structure of Model

Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》

  • 总体思路:分别用引入注意力机制的RNN和CNN提取光谱特征和空间特征,将最后的全连接层拼接在一起,然后再通过全连接层得到类别标签输出,相当于将两个网络提取的特征做了融合和提取。

3. Datasets

  • Pavia Center
    Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》
  • Pavia University
    Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》
  • Indian Pines
    Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》
    Point:为了解决类别不均衡的问题,作者没用百分比的形式来选取train、val和test,而是每个类别选取相同的数量。
    Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》
    另外,作者还采用了PCA对原始高光谱数据进行降维,提取主要的波段。

4. Parameter Setting

  • learning rate:[0.0003, 0.0005, 0.0008, 0.001, 0.003, 0.005, 0.01]
  • Spatial size: 15×15, 19×19, 23×23, 27×27, 31×31
  • Dropout:0.2, 0.3, 0.4 ,0.5, 0.6

5. Results

每个数据集测试20次,结果的表示形式为”平均±标准差“

  • Pavia Center
    Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》
  • Pavia University
    Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》
  • Indian Pines
    Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》

启发

  • 数据集分割方式值得借鉴,比百分比选取更科学,尝试编程实现;
  • 在使用PCA只保留少量波段的情况下,分类精度还是很高,而且减少了模型的计算量,值得一试。
  • 文章主要思想相当于对引入注意力机制的CNN和RNN做了一个集成,结果表明精度很高。在后面的研究中,可以尝试用模型集成的方法来增加创新和提高精度。
Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》Paper Reading -- 《Spectral-Spatial Attention Networks for Hyperspectral Image Classification》 有时候。 发布了8 篇原创文章 · 获赞 21 · 访问量 1万+ 私信 关注
上一篇:深度学习在NLP领域的发展(一)


下一篇:吴裕雄--天生自然神经网络与深度学习实战Python+Keras+TensorFlow:RNN-具有记忆功能的神经网络