NumPy 中的数据统计分析

Posted

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了NumPy 中的数据统计分析相关的知识，希望对你有一定的参考价值。

参考技术A NumPy的排序方法有直接排序和间接排序。直接排序是对数据直接进行排序，间接排序是指根据一个或多个键值对数据集进行排序。直接排序使用 sort()函数，间接排序使用 argsort函数和lexsort函数。

sort函数是常用的排序方法，函数调用改变原始数组，无返回值。

格式：numpy.sort(a, axis, kind, order)

参数：

a : 要排序的数组

axis: 使得sort函数可以沿着指定轴对数据集进行排序。axis=1 为沿横轴排序，axis=0为沿纵轴排序，axis=None将数组平坦化后进行排序。

kind: 排序算法，默认 quicksort

order: 如果数组包含字段，则是要排序的字段

a = np.array([7, 9, 5, 2, 9, 4, 3, 1, 4, 3])

print('原数组：', a)

a.sort()

print("排序后: ", a)

输出：

原数组： [7 9 5 2 9 4 3 1 4 3]

排序后:  [1 2 3 3 4 4 5 7 9 9]

带参数轴的排序

a = np.array([[4, 2, 9, 5], [6, 4, 8, 3], [1, 6, 2, 4]])

print("原数组：", a)

a.sort(axis=1)

print("排序后: ", a)

输出：

原数组： [[4 2 9 5]

[6 4 8 3]

[1 6 2 4]]

排序后:  [[2 4 5 9]

[3 4 6 8]

[1 2 4 6]]

使用argsort， lexsort函数，可以在给定一个或多个键时，得到一个由整数构成的索引数组，索引值表示数据在新序列中的位置。

a = np.array([7, 9, 5, 2, 8, 4, 3, 1, 4, 3])

print("原数组：", a)

print("排序后: ", a.argsort())

# 返回数组下标排序

print('显示较大的5个数：', a[a.argsort()][-5:])

输出：

原数组： [7 9 5 2 8 4 3 1 4 3]

排序后:  [7 3 6 9 5 8 2 0 4 1]

显示较大的5个数： [4 5 7 8 9]

a = [1, 5, 7, 2, 3, -2, 4]

b = [9, 5, 2, 0, 6, 8, 7]

ind = np.lexsort((b, a))

print('ind', ind)

tmp = [(a[i], b[i])for iin ind]

print('tmp', tmp)

输出：

ind [5 0 3 4 6 1 2]

tmp [(-2, 8), (1, 9), (2, 0), (3, 6), (4, 7), (5, 5), (7, 2)]

在统计分析中，需要提前将重复数据剔除。可以使用unique函数找到数组中唯一值并返回已排序的结果。参数return_counts设置为True时，可返回每个取值出现的次数。

数组内数据去重

names = np.array(['红色', '蓝色', '蓝色', '白色', '红色', '红色', '蓝色'])

print('原数组：', names)

print('去重后的数组:', np.unique(names))

print('数据出现次数:', np.unique(names, return_counts=True))

输出：

原数组： ['红色' '蓝色' '蓝色' '白色' '红色' '红色' '蓝色']

去重后的数组: ['白色' '红色' '蓝色']

数据出现次数: (array(['白色', '红色', '蓝色'], dtype='<U2'), array([1, 3, 3], dtype=int64))

统计分析时需要把一个数据重复若干次，在NumPy中主要使用tile, repeat函数实现重复数据

numpy.tile(A, reps)

a = np.arange(5)

print('原数组:', a)

w = np.tile(a, 3)

print("重复数据:", w)

输出：

原数组: [0 1 2 3 4]

重复数据: [0 1 2 3 4 0 1 2 3 4 0 1 2 3 4]

numpy.repeat(a, reps, axis=None)

参数：a 是需要重复的数组元素，reps是重复次数， axis只沿着那个轴进行，0 按进行元素重复， 1表按列元素进行重复

a = np.arange(5)

print('原数组:', a)

w = np.tile(a, 3)

print('重复数据处理:\n', w)

a2 = np.array([[1, 2, 3], [4, 5, 6]])

print('重复数据处理1:\n', a2.repeat(2, axis=0))

print('重复数据处理2:\n', a2.repeat(2, axis=1))

输出：

原数组: [0 1 2 3 4]

重复数据处理:

[0 1 2 3 4 0 1 2 3 4 0 1 2 3 4]

重复数据处理1:

[[1 2 3]

[1 2 3]

[4 5 6]

[4 5 6]]

重复数据处理2:

[[1 1 2 2 3 3]

[4 4 5 5 6 6]]

常见有sum, mean, std, var, min, max, 几乎所有的统计函数在针对2维数组时需要注意轴的概念。

axis参数0时，表示沿纵轴，1表示沿横轴

a = np.arange(20).reshape(4, 5)

print('创建的数组:\n', a)

print('数组的和：', np.sum(a))

print('数组纵轴的和： ', np.sum(a, axis=0))

print('数组横轴的和： ', np.sum(a, axis=1))

print('数组的均值： ', np.mean(a))

print('数组纵轴的均值： ', np.mean(a, axis=0))

print('数组横轴的均值 ', np.mean(a, axis=1))

print('数组的标准差： ', np.std(a))

print('数组纵轴的标准差： ', np.std(a, axis=0))

print('数组横轴的标准差： ', np.std(a, axis=1))

输出：

创建的数组:

[[ 0  1  2  3  4]

[ 5  6  7  8  9]

[10 11 12 13 14]

[15 16 17 18 19]]

数组的和： 190

数组纵轴的和：  [30 34 38 42 46]

数组横轴的和：  [10 35 60 85]

数组的均值：  9.5

数组纵轴的均值：  [ 7.5  8.5  9.5 10.5 11.5]

数组横轴的均值  [ 2.  7. 12. 17.]

数组的标准差：  5.766281297335398

数组纵轴的标准差：  [5.59016994 5.59016994 5.59016994 5.59016994 5.59016994]

数组横轴的标准差：  [1.41421356 1.41421356 1.41421356 1.41421356]

NumPy的基础主要包含数组及其索引，数组运算，数组读写以及常用的统计与分析方法。

数据分析之numpy篇

数据分析之numpy篇

文章目录

numpy简介

设么是numpy？

一个在python中做科学计算的基础库，重在数值计算，也是大部分python科学计算库的基础库，多用在大型、多维数组上执行数值运算。

数据类型相关

import numpy as np
import random

#使用numpy生成数组，得到ndarray的类型
t1 = np.array([1, 2, 3])
print(t1)
print(type(t1))

t2 = np.array(range(10))
print(t2)
print(type(t2))

t3 = np.arange(4, 18, 3)
print(t3)
print(type(t3))
print(t3.dtype)

#numpy中的数据类型
t4 = np.array(range(1, 4), dtype="float32")
print(t4)
print(t4.dtype)

#numpy中的bool类型
t5 = np.array([1, 0, 1, 0, 0, 0, 1, 1, 1], dtype=bool)
print(t5)
print(t5.dtype)

#调整数据类型
t6 = t5.astype("int8")
print(t6)
print(t6.dtype)

#numpy中的小数类型
t7 = np.array([random.random() for i in range(6)])
print(t7)
print(t7.dtype)

t8 = np.round(t7, 3)
print(t8)

数组的形状

import numpy as np

#查看数组的形状 shape
t1 = np.arange(12)
print(t1)
print(t1.shape)

t2 = np.array([[1, 2, 3], [4, 5, 6]])
print(t2)
print(t2.shape)
print("行", t2.shape[0])
print("列", t2.shape[1])

t3 = np.array([[[1, 2, 3], [4, 5, 6]], [[7, 8, 9], [2, 9, 0]]])
print(t3)
print(t3.shape)

#修改数组的形状 reshape()
t4 = np.arange(24)
print(t4)

t5 = t4.reshape((4, 6))
print(t5)
print(t5.shape)

t6 = t4.reshape((3, 2, 4))
print(t6)
print(t6.shape)

#按行展开 .flatten()
t7 = t6.flatten()
print(t7)
print(t7.shape)

数组的计算

数组与数组之间进行加减乘除运算时，满足以下原则：

广播原则：如果两个数组的后缘维度（trailing dimension，即从末尾开始算起的维度）的轴长度相符或其中一方的长度为1，则认为它们是广播兼容的。广播会在确实和（或）长度为1的维度上进行。

简单来说，就是两个数组的shape后几位必须相符合。

import numpy as np

t1 = np.arange(10, 34).reshape(4, 6)
print(t1)

#加k
t2 = t1 + 2
print(t2)

t3 = np.arange(100, 124).reshape(4, 6)
#加减乘除相同形状大小矩阵
t4 = t1 + t3
print(t4)
t5 = t1 - t3
print(t5)
t6 = t1 * t3
print(t6)
t7 = t1 / t3
print(t7)
t8 = t3 // t1
print(t8)
t9 = np.arange(0, 6) ** 2
print(t9)

#与相同行或者列数组进行运算（每一组都将参与运算）
a1 = np.arange(10, 34).reshape(4, 6)
a2 = np.arange(0, 6)
a3 = np.arange(4).reshape(4, 1)
a5 = a1 - a2
print(a5)
a6 = a1 - a3
print(a6)

numpy转置

轴（axis）：在numpy中可以理解为方向，使用0,1,2…数字表示，对于一个一维数组，只有一个0轴，对于2维数组（shape(2,2)），有0轴和1轴，对于三维数组（shape(2,2,3)），有0,1,2轴。

transpose 或 T 或 交换轴

t1 = np.arange(12).reshape(3, 4)
#矩阵的转置 transpose 或 T 或 交换轴
t2 = t1.transpose()
t3 = t1.T
t4 = t1.swapaxes(1, 0)

numpy索引和切片

a1 = np.arange(48).reshape(6, 8)
print(a1)
#取行
print(a1[2])
#取连续的多行
print(a1[4:])
#取不连续的多行
print(a1[2::2])
print(a1[[0, 3, 4]])

#取列
print("取列: ", a1[:,1])
print("取3列及其以后列元素：\\n", a1[:,2:])
print("取3,5,6列：\\n", a1[:,[2, 4, 5]])

#取多行多列, 取第3行，第4列的值
print(a1[2, 3])
print(type(a1[2,3]))  #<class 'numpy.int32'>

#取多行多列， 取第3行到地5行， 第2列到第4列的元素(交叉元素)
print(a1[2:5, 1:4])

#取多个不相邻的点(0, 0) (2, 1), (4, 5)
b = a1[[0,2,4], [0,1,5]]
print(b)

数值修改和bool索引

在对应索引切片处赋值即可

import numpy as np

a = np.arange(48).reshape(6, 8)
print(a)
b1 = a < 10
print(b1)
a[a < 10] = 123
print(a)
a[[2, 3, 4],[0, 1, 3]] = 1
print(a)

b2 = a
b2[b2 < 10] = 0
b2[b2 > 10] = 10
print(b2)

三元运算符where

a = np.arange(48).reshape(6, 8)
print(a)
b = a
b[b < 20] = 0
b[b >= 20] = 100
print(b)
#即将小于20赋值为0， 大于等于20 赋值为100
#使用  三元运算符 等价于
c = a
np.where(c < 20, 0, 100)
print(c)

裁剪clip

a = np.arange(48).reshape(6, 8)
print(a)
#将小于15的替换为15，大于30的替换为30
b = a.clip(15, 30)
print(b)

数组的拼接

  • np.vstack((t1, t2)) #竖直拼接
  • np.hstack((t1, t2)) #水平拼接
t1 = np.arange(12).reshape(2, 6)
t2 = np.arange(24, 36).reshape(2, 6)
print("t1\\n".format(t1))
print("t2\\n".format(t2))
t3 = np.vstack((t1, t2))  #竖直拼接
t4 = np.hstack((t1, t2))  #水平拼接
print("t1 和 t2 竖直拼接\\n ".format(t3))
print("t1 和 t2 水平拼接\\n ".format(t4))

分割时方向恰恰与拼接相反

数组的行列交换

索引赋值即可

a = np.arange(48).reshape(6, 8)
print(a)
#行交换
a1 = a
a1[[1, 2],:] = a1[[2, 1],:]
print(a1)
#列交换
a2 = a
a2[:,[3, 7]] = a2[:,[7, 3]]
print(a2)

最值、全0/1数组、I/E

  • 获取最大值和最小值的位置
    1. np.argmax(t.axis=0)
    2. np.argmin(t.axis=1)
  • 创建一个全0的数组：np.zeros((3,4))
  • 创建一个全1的数组：np.ones((3,4))
  • 创建一个对角线为1的正方形数组(方阵)：np.eys(3)
import numpy as np
import random

a = np.array([random.randint(0, 100) for i in range(32)]).reshape(4, 8)
print(a)
a1 = np.argmax(a, axis=0)
print("行最大值位置：\\n".format(a1))
a2 = np.argmax(a, axis=1)
print("列最大值位置：\\n".format(a2))

#创建全0数组
a3 = np.zeros((3, 4))
print("全0数组：\\n ".format(a3))

#创建全1数组
a4 = np.ones((3, 4))
print("全1数组：\\n ".format(a4))

#创建一个对角线为1的正方形数组（方阵）
a5 = np.eye(6)
print("单位矩阵：\\n ".format(a5))

a6 = a5 * (-1)
print(a6)

numpy生成随机数

参数解释
.rand(d0,d1,..dn)创建d0-dn维度的均匀分布的随机数数组，浮点数，范围从0-1
.rand(d0,d1,..,dn)创建d0-dn维度的标准正态分布随机数，浮点数，平均数0，标准差1
.randint(low，high，(shape))从给定上下限范围选取随机数整数，范围是low,high, 形状是shape
.uniform(low，high，(size))产生具有随机分布的数组，low起始值，high结束值，size形状
.normal(loc，scale，(size))从指定正态分布中随机抽取样本，分布中心是loc（概率分布的均值），标准差是scale，形状是size
.seed(s)随机数种子，s是给定的种子值。因为计算机生成的是伪随机数，所以通过设定相同的随机数种子，可以每次生成相同的随机数

numpy的copy和view

  • a = b完全不复制，a和b相互影响
  • a = b[:]，视图的操作，一种切片，会创建新的对象a，但是a的数据完全由b保管，它们的数据变化是一致的
  • a = b.copy()，复制，a和b互不影响
import numpy as np

np.random.seed(10)
a = np.random.randint(10, 20, (5, 8))
print(a)

b = a[3:, 3:]
print("b = a[3:]\\n", b)
b += 1000
print("a的变化: \\n", a)
print("b的变化：\\n", b)

c = a.copy()
c -= 1000
print("c = a.copy() - 1000: \\n", c)
print("a的值：\\n", a)

numpy中的nan和inf

nan(NAN,Nan):not a number 表示不是一个数组

什么时候numpy中会出现nan:

  • 当我们读取本地文件为float的时候，如果有缺失，就会出现nan
  • 当做了一个不合适的计算的时候（比如无穷大（inf）减去无穷大）

inf(-inf.inf):infinity, inf表示正无穷， -inf表示负无穷

什么时候会出现inf包括（-inf，+inf）

  • 比如一个数字除以0，（python中直接会报错，numpy中是一个inf或者-inf）

如何制定一个nan或者inf：

d = np.inf
print(type(d))
e = np.nan
print(type(e))

nan的注意点

  • 两个nan是不相等的

    np.nan != np.nan (True)

  • 可以利用以上特性，判断数组中nan的个数

    np.count_nonzero(t != t)

  • 如何判断一个数字是否是nan呢，通过np.isnan(a)来判断，返回bool类型，比如希望吧nan替换为0

    t[np.isnan(t)] = 0

  • nan和任何值计算都为nan

print(np.nan != np.nan)
f = np.array([[1.9, 2.7, np.nan], [np.nan, np.nan, 4.9]])
print(f)
nan_counts = np.count_nonzero(f != f)
print(nan_counts)

f1 = f.copy()
f1[np.isnan(f1)] = 0
print(f1)

f2 = f.copy()
f2 -= np.nan
print(f2)

numpy中的常用统计函数

作用函数
求和t.sum(axis=Node)
均值t.mean(axis=None)受离群点的影响较大
中值np.median(t.axis=None)
最大值t.max(axis=None)
最小值t.min(axis=None)
极差np.ptp(t.axis=None)即最大值和最小值的差
标准差t.tsd(axis=None)

默认返回多维数组的全部统计结果，如果指定axis，则返回一个当前轴上的结果

import numpy as np

a = np.arange(24).reshape(4, 6)
print(a)
print("求和：\\n", a.sum(axis=0))
print("求均值: \\n", a.mean())
print(a.mean(axis=1))
print("中值：\\n", np.median(a, axis=1))
print("最大值：\\n", a.max())
print("最小值：\\n", a.min(axis=0))
print("极差：\\n", np.ptp(a, axis=1))
print("标准差: \\n", a.std())

小练习：将nan赋值为mean()

import numpy as np

def fill_ndarray(a):
    for i in range(a.shape[1]):
        temp_col = a[:, i]
        nan_num = np.count_nonzero(temp_col != temp_col)
        if nan_num != 0:   #不为0， 说明当前这一列中有nan
            temp_not_nan_clo =  temp_col[temp_col == temp_col]
            #选中当前为nan的位置，并将其赋值为不是nan的均值
            temp_col[temp_col != temp_col] = temp_not_nan_clo.mean()
    return a

if __name__ == '__main__':
    a = np.arange(24).reshape(4, 6).astype("float")
    print(a)
    a[1:3, 2:5] = np.nan
    print(a)
    a = fill_ndarray(a)
    print("赋值nan为列均值: \\n", a)

总结

以上是关于NumPy 中的数据统计分析的主要内容，如果未能解决你的问题，请参考以下文章

数据分析之numpy篇

数据分析之numpy篇

数据分析从入门到“入坑“系列利用Python学习数据分析-Numpy中的ndarray

数据分析从入门到“入坑“系列利用Python学习数据分析-Numpy中的索引

python数据分析Numpy

Python数据分析之numpy学习