一、卡方分布
若k个独立的随机变量Z1,Z2,?,Zk，且符合标准正态分布N(0,1)，则这k个随机变量的平方和，为服从自由度为k的卡方分布。
卡方分布之所以经常被利用到，是因为对符合正态分布的随机变量的处理过程中，很容易出现其平方和的统计量。
正如在卡方检验问题中出现这个统计量一样自然。
二、卡方检验
卡方检验主要用于，根据样本数据推断总体的分布与期望分布是否有显著性差异，或者推断两个分类变量是否相关或者独立。
样本数据推断的分布与理论分布的差值，如果只考虑随机取样误差影响，自然符合标准正态分布。而其平方和就属于卡方分布了。
其中，A为实际值，T为理论值。
χ2用于衡量实际值与理论值的差异程度，这也是卡方检验的核心思想。χ2包含了以下两个信息：
1.实际值与理论值偏差的绝对大小。
2.差异程度与理论值的相对大小。
三、卡方检验做特征选择
一个特征对分类变量的影响，如果特征对应的分类变量数量与理论值没什么区别，说明特征对分类变量没什么影响。而该特征对分类变量有明显影响，其对应分类变量数量应该与分类变量理论分布值有较大偏离。
所以可以说：卡方值越大，说明关联越强，特征越需要保留。卡方值越小，说明越不相关，特征需要去除。