使用机器学习创建异常检测

Posted

技术标签:

【中文标题】使用机器学习创建异常检测【英文标题】:Creating anomaly detection using machine learning 【发布时间】:2017-12-09 16:02:00 【问题描述】:

弹性堆栈的新x-pack ML 给我留下了深刻的印象。他们的技术似乎可以随着时间的推移学习数据模式,并且可以预测多个领域的异常情况。

放大:

我想知道可以使用什么方法和网络拓扑来创建类似的功能。假设由于 x-pack 处理时间序列数据,RNN 将是一个好的开始,是否公平?

对您的意见和参考感兴趣。

【问题讨论】:

重复:***.com/questions/47213120/… 【参考方案1】:

根据我的阅读,如果他们使用神经网络,我会感到惊讶。以下是他们检测异常的说法:

通过构建“典型”用户或机器的配置文件来检测群体中的异常值,以了解何时开始偏离群体。

像这样进行异常检测只需要对观察到的行为是否在预期行为的 2-3 个标准偏差范围内进行统计测试。

如果您出于某种原因想使用神经网络,可以使用 CNN、RNN 或仅注意力网络。 Google recently showed that you don't need RNNs or CNNs to do state-of-the-art translation.

【讨论】:

论文中提出的注意力机制,只是NN“编码器”的一部分,由N=6个相同的层组成。每层有两个子层。第一个是多头自注意力机制,二是简单的、按位置的全连接前馈网络” @RoniGadot,我的意思是 OP 不一定需要像 RNN 这样复杂的东西。 Google 的网络是一个前馈(无重复)网络,对序列进行操作。

以上是关于使用机器学习创建异常检测的主要内容,如果未能解决你的问题,请参考以下文章

使用带有 CouchDB 和 Python 的机器学习来检测“异常行为”?

机器学习笔记(十三)-异常检测

如何使用多个 CSV 文件进行机器学习异常检测

吴恩达机器学习-10-异常检测

一文读懂!异常检测全攻略!从统计方法到机器学习 ⛵

ng机器学习视频笔记(十三) ——异常检测与高斯密度估计