数据分布vs聚类-数据预处理技巧-对数变换

Posted cpg123

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了数据分布vs聚类-数据预处理技巧-对数变换相关的知识,希望对你有一定的参考价值。

技术图片

对于原始数据分布倾斜

利用统计或数学变换来减轻数据分布倾斜的影响。使原本密集的区间的值尽可能的分散,

原本分散的区间的值尽量的聚合。

Log变换通常用来创建单调的数据变换。它的主要作用在于帮助稳定方差,始终保持分布

接近于正态分布并使得数据与分布的平均值无关。

y=logc(1+λx)

λ通常设置为1,c通常设置为变换数据的最大值。

Log变换倾向于拉伸那些落在较低的幅度范围内自变量值的范围,压缩或减少较高幅度范围

内的自变量值得范围。从而使得倾斜分布尽可能的接近正态分布。

 

以上是关于数据分布vs聚类-数据预处理技巧-对数变换的主要内容,如果未能解决你的问题,请参考以下文章

【数据分析】-005-数据预处理-数据变换

R语言使用caret包的preProcess函数进行数据预处理:对所有的数据列进行YeoJohnson变换(将非正态分布数据列转换为正态分布数据可以处理负数)设置参数为YeoJohnson

ML之kmeans:通过数据预处理(分布图箱线图热图/文本转数字/构造特征/编码/PCA)利用kmeans实现汽车产品聚类分析(SSE-平均轮廓系数图/聚类三维图/雷达图/饼图柱形图)/竞品分析之详细

数据变换

R语定义函数对宽分布(wide distribution )有偏分布(skew distribution)的数据进行对数变换(符号对数变换函数signed log transformation)

数据预处理(Python scikit-learn)