论文笔记---A Deep Nonnegative Matrix Factorization Approach via Autoencoder for Nonlinear Fault Detectio

DNFM

1. introduction

DNFM = Encoder + NFM + Decoder

NMF

  • 目的:通过局部系统特性的非负组合来获得系统的整体特性
  • 缺点:作为一种线性模型,很难应用于非线性中;
  • 限制:输入必须是非负,一些数据是非负的,比如温度…
  • 非负非线性的NMF是主要需要解决的

DNMF

  • DNMF利用深度学习(Autodecoder)来改进NMF等,从而提供一种新的非线性框架,能够更好的解决非线性的一些问题
  • 继承引入核函数的内核思想;核函数将原始数据映射到高维特征空间

贡献:

  1. 提出一种数据驱动的非线性工业系统故障检测方法。
  2. 利用工业数据自动学习适当的非线性映射函数
  3. 非线性框架具有较强的泛化行和灵活性
  4. 基于nmf但是输入可以非负,扩展了其他应用范围

2.Preliminaries

论文笔记---A Deep Nonnegative Matrix Factorization Approach via Autoencoder for Nonlinear Fault Detectio

NMF 算法

1. ENCODER 模块

经过非线性映射函数 E n ( x ) En(x) En(x), 将原始数据 x ∈ R m x\in \mathbb{R}^m x∈Rm投射到高纬特征空间 F F F中,得到向量 φ ( x ) ∈ R f \varphi (x)\in \mathbb{R}^f φ(x)∈Rf

论文笔记---A Deep Nonnegative Matrix Factorization Approach via Autoencoder for Nonlinear Fault Detectio

  • 其中f为F的维数, E n ( x ) En(x) En(x)由CNN组成的编码器网络实现。在这个CNN中。最后一个卷积层的输出feature map被平展成一个矢量。
  • 由于NMF模块要求输入是非负的。所得到的向量通过激活函数ReLU来激活得到非负输入。
    论文笔记---A Deep Nonnegative Matrix Factorization Approach via Autoencoder for Nonlinear Fault Detectio

2. NMF模块

论文笔记---A Deep Nonnegative Matrix Factorization Approach via Autoencoder for Nonlinear Fault Detectio

当 x x x映射到 φ ( x ) \varphi (x) φ(x)时, 执行线性NMF提取系统特征 h ∈ R d ( d < f ) h\in R^d(d<f) h∈Rd(d<f), NMF的两个矩阵W和H利用梯度下降交替迭代求解。

建立一个神经网络来实现NMF算法

  • 首先, φ ( x ) \varphi (x) φ(x) 通过一个无偏全连接(FC)层获得我们最终将提取的系统特征h。
  • FC的权重必须通过ReLU激活,激活的权重为v
  • 将h限制在同 φ ( x ) \varphi (x) φ(x)相同子空间中,来确保h是非负的
  • h之后是无偏FC层,同时这一层的权重必须由ReLU激活,来确保训练基矩阵W是非负的。
  • output: φ ^ ( x ) ∈ R f \hat{\varphi}(x)\in \mathbb{R}^f φ^​(x)∈Rf

消耗损失:
论文笔记---A Deep Nonnegative Matrix Factorization Approach via Autoencoder for Nonlinear Fault Detectio
其中NMF算法:
φ ( x ) ≈ W T h \varphi (x)\approx W^Th φ(x)≈WTh
where W ≥ 0 a n d h ≥ 0 W\geq 0 and h\geq 0 W≥0andh≥0

Decoder 模块

目标是重建映射 φ ^ ( x ) \hat{\varphi }(x) φ^​(x)

重建损失:
论文笔记---A Deep Nonnegative Matrix Factorization Approach via Autoencoder for Nonlinear Fault Detectio

  • 解码器网络结构与编码器网络结构几乎对称,可以看作是编码器的逆过程,有效地实现了无监督学习。

总体损失

论文笔记---A Deep Nonnegative Matrix Factorization Approach via Autoencoder for Nonlinear Fault Detectio

  • 三个模块通过反向传播联合训练
上一篇:关于PID的一些笔记


下一篇:桌子CE认证EN 15372测试项目