机器学习sklearn(十六): 特征工程特征选择卡方选择卡方检验

Posted 秋华

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习sklearn(十六): 特征工程特征选择卡方选择卡方检验相关的知识,希望对你有一定的参考价值。

卡方检验,统计学的方法,现在机器学习看变量的时候也会用到。

很多不知道的人,一听到这个名词,会马上联想到,
啊?还要拿张卡来检验吗?

其实卡方检验是英文Chi-Square Test 的谐音。在大数据运营场景中,通常用在某个变量(或特征)值是不是和应变量有显著关系。

我常听到运营和分析师这样的对话,
分析师:“这个变量我做了卡方检验了,不显著,所以我没有放进模型。”
这时候,你要是仔细观察运营经理的话,他们很多人其实是不明白的,有些好学的会直接问什么是卡方检验,有些要面子,会偷偷百度一下什么是卡方检验,但多数运营经理就这么接受了分析师的建议。
毕竟运营经理是以业务和结果为导向的,这些细节的东西,他们觉得也不用自己去纠结。

我写这篇的目的,是为了让运营经理能够确实的知道卡方检验是什么,不要害怕听到这些专有名词,下次遇到这些情况知道如何和分析师互动,并且从业务层面上提出更有价值的变量建议。

而分析师的话,能够让他们在和其他非技术部门人员沟通的时候,学习怎么说些普通人能听的懂的话。

01 什么是卡方检验:

卡方检验就是检验两个变量之间有没有关系。
以运营为例:

  • 卡方检验可以检验男性或者女性对线上买生鲜食品有没有区别;
  • 不同城市级别的消费者对买SUV车有没有什么区别;

如果有显著区别的话,我们会考虑把这些变量放到模型或者分析里去。

02 投硬币

那我们先从一个最简单的例子说起。
1) 根据投硬币观察到的正面,反面次数,判断这个硬币是均衡的还是不均衡。
现在有一个正常的硬币,我给你投50次,你觉得会出现几个正面,几个反面?

按照你的经验你会这么思考,最好的情况肯定是25个正面,25个反面
但是肯定不可能这么正正好好的,嗯,差不多28个正面,22个反面吧;
23个正面,27个反面也可能的,
但是10个正面,40个反面肯定不可能的,除非我运气真的那么碰巧。

你上面的这个思维方式,就是拿已经知道的结果(硬币是均衡的,没有人做过手脚),推测出会出现的不同现象的次数。

而卡方检验是拿观察到的现象(投正面或反面的次数或者频数),来判断这个结果(硬币是不是均衡的)。

继续上面这个例子,
如果我不知道这个硬币是不是均衡的,我想用正面,反面的频次来判断,我投了50次,
其中28个正面,22个反面。我怎么用卡方检验来证明这个硬币是均衡的还是不均衡的呢?

 

 这里要引出卡方检验的公式:

 

 

这个公式可以帮我们求出卡方检验的值,我们用

其中,自由度我们可以求出来,置信度的话,我们按照我们自己意愿挑选,一般我们会挑90%或者95%。

这三个数值计算方法如下:

 

 我们拿到这3个信息,去查表,因为0.72小于查表得到的3.841,所以我们得出这个硬币是均衡的结论。

这里还涉及到假设检验中,拒绝H0还是不拒接H0,这篇文章就不详细展开了。

如果你们查表后,还是不知道是该大于的时候说均衡,还是小于的时候说均衡,那么你们可以想一下具体这个例子,
如果硬币是均衡的话,你觉得卡方的值是越小越可能是均衡的,还是越大越可能是均衡的呢?

03 投筛子

接下来,我们再来看一个稍微难一点的例子,投骰子。
有一个筛子,我不知道它是不是均衡的,于是我打算投36次看一下。

 

 按照投硬币的方式,我先要画出一个表格,然后计算出3个数值,

 

 带着这3个值,我们去查表,于是我们得出这个现象不能判定他是个均衡的筛子。

 

 现在你明白其实卡方检验一点都不深奥吧。

以后如果分析师说,这个变量不显著,我把这个变量去掉了,
你就可以反问他,那卡方值是多少?
你选了多大的置信度?

04 电商中消费者的性别和购买生鲜

最后讲个平时运营分析中的案例:

我们要观察性别和在线上买不买生鲜食品有没有关系,现实生活中,女性通常去菜市场买菜的比较多,那么在线上是不是也这样。

我们得出观察到数据,并且形成表格后,我们需要计算理论的数据,在上面的例子我们发现,我们发现有66%的人不在线上买生鲜(599除以907),34%的人会在线上买。 那如果,男的有733个人,女的有174个人,根据这些比例,我们可以得出的理论值是什么呢?

根据理论和实际值,我们可以算出卡方值,自由度,并且结合我们定义的置信度,查表得到性别和线上买生鲜是显著相关的。
所以我们如果下次看到一个女性来访问我们的网站,多投放一些广告,说不定会转化哦。

看了这几个例子,是不是觉得卡方检验一点都不复杂,其实和我们生活这么贴近,我们平时的思维方式,其实就隐含着卡方检验的道理。



作者:Yan文怡
链接:https://www.jianshu.com/p/807b2c2bfd9b
来源:简书
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

 

以上是关于机器学习sklearn(十六): 特征工程特征选择卡方选择卡方检验的主要内容,如果未能解决你的问题,请参考以下文章

机器学习实战基础(十六):sklearn中的数据预处理和特征工程特征选择 之 Filter过滤法 总结

sklearn-特征工程之特征选择

机器学习sklearn(十七): 特征工程特征选择卡方选择卡方检验

机器学习基础一文带你用sklearn做特征工程

机器学习实战基础(十七):sklearn中的数据预处理和特征工程特征选择 之 Embedded嵌入法

机器学习实战基础(十七):sklearn中的数据预处理和特征工程特征选择 之 Embedded嵌入法