数据预处理(Python scikit-learn)

Posted klchang

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了数据预处理(Python scikit-learn)相关的知识,希望对你有一定的参考价值。

在机器学习任务中,经常会对数据进行预处理.如尺度变换,标准化,二值化,正规化.至于采用哪种方法更有效,则与数据分布和采用算法有关.不同算法对数据的假设不同,可能需要不同的变换,而且有时无需进行变换,也可能得到相对更好的效果.因此推荐使用多种数据变换方式,用多个不同算法学习和测试,选择相对较好的变换方式和算法.

下面对在 Python scikit-learn 库(也称 sklearn 库)中的预处理过程进行介绍:

1. 加载数据集;

2. 将数据集分为用于机器学习的输入变量和输出变量;

3. 对输入变量进行变换(或预处理);

4. 显示变换结果(可选).

 

本文采用 scikit-learn 库自带的鸢尾花数据集(Iris Plants Database)作为示例.

首先,加载数据集,获取输入变量 X 和输出变量 y ,示例代码如下:

from sklearn import datasets
import numpy as np

data = datasets.load_iris()
X, y = data.data, data.target

np.set_printoptions(precision=3)
print ("\\n" "Preprocess input variables: " "\\n")
print ("Raw Data: ")
print (X[:5, :])

然后,变换输入变量 X (类型为 <type \'numpy.ndarray\'>),具体变换如下:

尺度变换

将输入变量变换到某一范围,如 0 ~ 1 区间.在 sklearn 库中,使用 MinMaxScaler 类实现.常用于类似梯度下降的优化算法,回归和神经网络中的加权输入,以及类似 K 近邻的距离度量.示例代码如下:

from sklearn.preprocessing import MinMaxScaler

scaler = MinMaxScaler(feature_range=(0,1))
rescaledX = scaler.fit_transform(X)

# Print transformed data
print ("\\nRescaled Data: ")
print(rescaledX[0:5,:])

标准化

通常适用于高斯分布的输入变量.具体来说,将输入变量中的每个属性值减去其平均值,然后除以标准差,得到标准正态分布的属性值.在 sklearn库中,使用 StandardScaler 类实现.常用于假定输入变量高斯分布的线性回归,Logistic回归和线性判决分析.

from sklearn.preprocessing import StandardScaler

scaler = StandardScaler().fit(X)
standardizedX = scaler.transform(X)
print ("\\nStandardized Data: ") print (standardizedX[0:5,:])

正规化

将输入变量变换为具有单位范数长度的数据.常用的范数有L1,L2,详见我之前的博文 "数据正规化 (data normalization) 的原理及实现 (Python sklearn)". 在 sklearn 库中,使用 Normalizer 类实现.常用于含有许多 0 的稀疏数据集,像神经网络的采用加权输入的算法和像 K 近邻采用距离度量的算法.

from sklearn.preprocessing import Normalizer

scaler = Normalizer().fit(X)
normalizedX = scaler.transform(X)

print ("\\nNormalized Data: ")
print (normalizedX[0:5,:])

二值化

使用门限值,将输入数据二值化.当输入变量值大于门限值时,变换为 1;当输入变量值小于或等于门限值时,变换为 0.在 sklearn 库中,使用 Binarizer 类实现.常用于获取清晰的值的概率,产生新的有意义的属性的特征工程.

from sklearn.preprocessing import Binarizer

binarizer = Binarizer(threshold=0.0).fit(X)
binaryX = binarizer.transform(X)

print ("\\nBinarized Data: ")
print (binaryX[0:5,:])

 

参考资料

Jason Brownlee. How To Prepare Your Data For Machine Learning in Python with Scikit-Learn. 

https://machinelearningmastery.com/prepare-data-machine-learning-python-scikit-learn/

以上是关于数据预处理(Python scikit-learn)的主要内容,如果未能解决你的问题,请参考以下文章

Python / Scikit-Learn - 无法处理多类和连续的混合

Python---scikit-learn(sklearn)模块

python机器学习——使用scikit-learn训练感知机模型

Sklearn 速查

python 一般预处理以scikit-learn兼容格式转换

scikit-learn 可以处理多少文本?