论文笔记---A Deep Nonnegative Matrix Factorization Approach via Autoencoder for Nonlinear Fault Detectio

Posted 2021-06-27 小葵花幼儿园园长

DNFM

• 1. introduction
• • NMF
  • DNMF
• 2.Preliminaries
• • NMF 算法
  • • 1. ENCODER 模块
    • 2. NMF模块
    • Decoder 模块
    • 总体损失

1. introduction

DNFM = Encoder + NFM + Decoder

NMF

• 目的：通过局部系统特性的非负组合来获得系统的整体特性
• 缺点：作为一种线性模型，很难应用于非线性中；
• 限制：输入必须是非负，一些数据是非负的，比如温度…
• 非负非线性的NMF是主要需要解决的

DNMF

• DNMF利用深度学习(Autodecoder)来改进NMF等，从而提供一种新的非线性框架，能够更好的解决非线性的一些问题
• 继承引入核函数的内核思想；核函数将原始数据映射到高维特征空间

贡献：

1. 提出一种数据驱动的非线性工业系统故障检测方法。
2. 利用工业数据自动学习适当的非线性映射函数
3. 非线性框架具有较强的泛化行和灵活性
4. 基于nmf但是输入可以非负，扩展了其他应用范围

2.Preliminaries

NMF 算法

1. ENCODER 模块

经过非线性映射函数$En(x)$, 将原始数据$x\in {\mathbb{R}}^m$投射到高纬特征空间$F$中，得到向量$\phi (x)\in {\mathbb{R}}^f$

• 其中f为F的维数， $En(x)$由CNN组成的编码器网络实现。在这个CNN中。最后一个卷积层的输出feature map被平展成一个矢量。
• 由于NMF模块要求输入是非负的。所得到的向量通过激活函数ReLU来激活得到非负输入。
  

2. NMF模块

当$x$映射到$\phi (x)$时， 执行线性NMF提取系统特征$h\in R^d(d<f)$, NMF的两个矩阵W和H利用梯度下降交替迭代求解。

建立一个神经网络来实现NMF算法

• 首先，$\phi (x)$ 通过一个无偏全连接（FC）层获得我们最终将提取的系统特征h。
• FC的权重必须通过ReLU激活，激活的权重为v
• 将h限制在同$\phi (x)$相同子空间中，来确保h是非负的
• h之后是无偏FC层，同时这一层的权重必须由ReLU激活,来确保训练基矩阵W是非负的。
• output： $\hat{\phi }(x)\in {\mathbb{R}}^f$

消耗损失：

其中NMF算法：
$$\phi (x)\approx W^{T}h$$
where $W\ge 0andh\ge 0$

Decoder 模块

目标是重建映射$\hat{\phi }(x)$

重建损失：

• 解码器网络结构与编码器网络结构几乎对称，可以看作是编码器的逆过程，有效地实现了无监督学习。

总体损失

• 三个模块通过反向传播联合训练