DNFM
1. introduction
DNFM = Encoder + NFM + Decoder
NMF
- 目的:通过局部系统特性的非负组合来获得系统的整体特性
- 缺点:作为一种线性模型,很难应用于非线性中;
- 限制:输入必须是非负,一些数据是非负的,比如温度…
- 非负非线性的NMF是主要需要解决的
DNMF
- DNMF利用深度学习(Autodecoder)来改进NMF等,从而提供一种新的非线性框架,能够更好的解决非线性的一些问题
- 继承引入核函数的内核思想;核函数将原始数据映射到高维特征空间
贡献:
- 提出一种数据驱动的非线性工业系统故障检测方法。
- 利用工业数据自动学习适当的非线性映射函数
- 非线性框架具有较强的泛化行和灵活性
- 基于nmf但是输入可以非负,扩展了其他应用范围
2.Preliminaries
NMF 算法
1. ENCODER 模块
经过非线性映射函数 E n ( x ) En(x) En(x), 将原始数据 x ∈ R m x\in \mathbb{R}^m x∈Rm投射到高纬特征空间 F F F中,得到向量 φ ( x ) ∈ R f \varphi (x)\in \mathbb{R}^f φ(x)∈Rf
- 其中f为F的维数, E n ( x ) En(x) En(x)由CNN组成的编码器网络实现。在这个CNN中。最后一个卷积层的输出feature map被平展成一个矢量。
- 由于NMF模块要求输入是非负的。所得到的向量通过激活函数ReLU来激活得到非负输入。
2. NMF模块
当 x x x映射到 φ ( x ) \varphi (x) φ(x)时, 执行线性NMF提取系统特征 h ∈ R d ( d < f ) h\in R^d(d<f) h∈Rd(d<f), NMF的两个矩阵W和H利用梯度下降交替迭代求解。
建立一个神经网络来实现NMF算法
- 首先, φ ( x ) \varphi (x) φ(x) 通过一个无偏全连接(FC)层获得我们最终将提取的系统特征h。
- FC的权重必须通过ReLU激活,激活的权重为v
- 将h限制在同 φ ( x ) \varphi (x) φ(x)相同子空间中,来确保h是非负的
- h之后是无偏FC层,同时这一层的权重必须由ReLU激活,来确保训练基矩阵W是非负的。
- output: φ ^ ( x ) ∈ R f \hat{\varphi}(x)\in \mathbb{R}^f φ^(x)∈Rf
消耗损失:
其中NMF算法:
φ
(
x
)
≈
W
T
h
\varphi (x)\approx W^Th
φ(x)≈WTh
where
W
≥
0
a
n
d
h
≥
0
W\geq 0 and h\geq 0
W≥0andh≥0
Decoder 模块
目标是重建映射 φ ^ ( x ) \hat{\varphi }(x) φ^(x)
重建损失:
- 解码器网络结构与编码器网络结构几乎对称,可以看作是编码器的逆过程,有效地实现了无监督学习。
总体损失
- 三个模块通过反向传播联合训练