python-pandas-1

Posted 2021-01-23 枫子

series

Series 是pandas两大数据结构中（DataFrame，Series）的一种。

创建Series

Series的定义：Series是一种类似于一维数组的对象，它由一组数据（各种NumPy数据类型）以及一组与之相关的数据标签（即索引）组成。

​ Series对象本质上是一个NumPy的数组，因此NumPy的数组处理函数可以直接对Series进行处理。但是Series除了可以使用位置作为下标存取元素之外，还可以使用标签下标存取元素，这一点和字典相似。每个Series对象实际上都由两个数组组成：
index: 它是从NumPy数组继承的Index对象，保存标签信息。
values: 保存值的NumPy数组。

注意三点：

1. Series是一种类似于一维数组（数组：ndarray）的对象

2. 它的数据类型没有限制（各种NumPy数据类型）

3. 它有索引，把索引当做数据的标签（key）看待，这样就类似字典了（只是类似，实质上市数组）

4.Series同时具有数组和字典的功能，因此它也支持一些字典的方法

创建数组，例如：

In [1]:arr=[1,2,3,4] #创建数组  
  
In [2]:arr  
Out[2]: [1, 2, 3, 4]  

创建Series:

series_1=Series(arr)  
series_1  
Out[146]:   
0    1  
1    2  
2    3  
3    4  
dtype: int64  
series_2=Series([1,2,3,4])  
series_2  
Out[148]:   
0    1  
1    2  
2    3  
3    4  
dtype: int64 

创建包含多种数据类型的Series：

series_3=Series([1,2,\'3\',4,\'a\'])  #包含数字和字符串  
series_3  
Out[150]:   
0    1  
1    2  
2    3  
3    4  
4    a  
dtype: object  #类型变成了字符串   

Series索引

Series创建后会自动生成索引，默认从0开始

可以指定和修改索引

In [154]: series_4.index=[\'a\',\'b\',\'c\']  
  
In [155]: series_4  
Out[155]:   
a    1  
b    2  
c    3    

修改索引除了这里的直接修改还有一个reindex()方法。

Series增删改

Series创建后可以对数据进行增删改查

增

Series的add()方法是加法计算不是增加Series元素用的。

使用append连接其他Series

删

In [162]: series_4.drop(\'a\')  
Out[162]:   
b    2  
c    3  
dtype: int64  

改

In [170]: series_4[\'a\']=4  
  
In [171]: series_4  
Out[171]:   
a    4  
b    2  
c    3  
dtype: int64  

查

通过索引查单值

In [172]: series_4[\'a\']  
Out[172]: 4    

通过索引序列查多值：

series_4[[\'a\',\'b\']]  
Out[174]:   
a    4  
b    2  
dtype: int64

通过布尔类型索引筛选：

In [175]: series_4[series_4>2]  
Out[175]:   
a    4  
c    3  
dtype: int64   

通过位置切片和标签切片查询数据：

series_4  
Out[194]:   
a    4  
b    2  
c    3  
dtype: int64  
  
series_4[:2]  
Out[195]:   
a    4  
b    2  
dtype: int64  
  
series_4[\'a\':\'c\']  
Out[196]:   
a    4  
b    2  
c    3  
dtype: int64    

通过字典创建Series

series_5=Series({\'a\':1,\'b\':2,\'c\':3})  
  
series_5  
Out[201]:   
a    1  
b    2  
c    3  
dtype: int64    

dataframe

这一部分主要学习pandas中基于前面两种数据结构的基本操作。设有DataFrame结果的数据a如下所示：

       a  b  c
one    4  1  1
two    6  2  0
three  6  1  6

创建dataframe

1.标准格式创建

2.等长列表组成的字典来创建

3.嵌套字典（字典的值也是字典）创建

标准格式创建

DataFrame创建方法有很多，常用基本格式是：DataFrame 构造器参数：DataFrame(data=[],index=[],coloumns=[])

In [272]: df2=DataFrame(np.arange(16).reshape((4,4)),index=[\'a\',\'b\',\'c\',\'d\'],columns=[\'one\',\'two\',\'three\',\'four\'])  
  
In [273]: df2  
Out[273]:   
   one  two  three  four  
a    0    1      2     3  
b    4    5      6     7  
c    8    9     10    11  
d   12   13     14    15    

用传入等长列表组成的字典来创建

In [204]: data={\'c\':[\'1\',\'2\'],\'a\':[\'5\']}  #创建不等长字典序列  
  
In [205]: data  
Out[205]: {\'a\': [\'5\'], \'c\': [\'1\', \'2\']}  
  
In [206]: df=DataFrame(data)  
Traceback (most recent call last):  
...  
  
ValueError: arrays must all be same length   # 报错，传入的数组必须等长  
  
In [207]: data={\'c\':[\'1\',\'2\'],\'a\':[\'5\',\'6\']}  #创建<strong>等长字典序列  
In [208]: df=DataFrame(data)  
  
In [209]: df  
Out[209]:   
   a  c                      # 创建完成后\'a\',\'c\'自动按照字典序排序，并且创建时自定加上索引  
0  5  1  
1  6  2  

创建完成后\'a\',\'c\'自动按照字典序排序，并且创建时自定加上索引

如果指定了columns名称，则会按照指定顺序创建。

In [210]: df=DataFrame(data,columns=[\'c\',\'a\'])  
  
In [211]: df  
Out[211]:   
   c  a    #按照指定顺序创建。  
0  1  5  
1  2  6    

传入嵌套字典（字典的值也是字典）创建DataFrame

列名：嵌套字典的外层子键

索引：内层键

In [227]: nest_dict={\'shanghai\':{2015:100,2016:101},\'beijing\':{2015:102,2016:103}}  
  
In [228]: nest_dict  
Out[228]: {\'beijing\': {2015: 102, 2016: 103}, \'shanghai\': {2015: 100, 2016: 101}}  
  
In [229]: df1=DataFrame(nest_dict)  
  
In [230]: df1  
Out[230]:   
      beijing  shanghai  
2015      102       100  
2016      103       101  

查

查看对象的方法对于Series来说同样适用

1.查看DataFrame前xx行或后xx行
a=DataFrame(data);
a.head(6)表示显示前6行数据，若head()中不带参数则会显示全部数据。
a.tail(6)表示显示后6行数据，若tail()中不带参数则也会显示全部数据。

2.查看DataFrame的index，columns以及values
a.index ; a.columns ; a.values 即可

3.describe()函数对于数据的快速统计汇总
a.describe()对每一列数据进行统计，包括计数，均值，std，各个分位数等。

4.对数据的转置
a.T

5.对轴进行排序
a.sort_index(axis=1,ascending=False)；
其中axis=1表示对所有的columns进行排序，下面的数也跟着发生移动。后面的ascending=False表示按降序排列，参数缺失时默认升序。

6.对DataFrame中的值排序
a.sort(columns=\'x\')
即对a中的x这一列，从小到大进行排序。注意仅仅是x这一列，而上面的按轴进行排序时会对所有的columns进行操作。

增

为不存在的列赋值会创建新列

In [219]: df[\'b\']=1  
  
In [220]: df  
Out[220]:   
   c  a  b  
0  1  5  1  
1  2  6  1  

删

#用del删除
In [225]: del df[\'a\']  
  
In [226]: df  
Out[226]:   
   c  b  
0  1  1  
1  2  1  

用drop() 删除

用drop删除时，删的是视图，并没有真正删除。

In [258]: df  
Out[258]:   
   c  b  0  
0  5  1  6  
1  5  1  6  
In [259]: df.drop(0,axis=1) #删除列Out[259]:     
   c  b  
0  5  1  
1  5  1  
In [260]: df  # df的数据并没有改动  
Out[260]:     
   c  b  0  
0  5  1  6  
1  5  1  6   

dorp()可以通过axis（行：axis=0 ，列：axis=1）可以控制删除行或列，默认是行。

dorp()也可以同时删除多行或多列

例：

In [271]: df.drop([0,1],axis=1)  
Out[271]:   
   c  b  
0  6  6  
1  5  1    

改

赋值进行修改，可以通过定位到行，列，或者具体位置进行赋值修改。

#修改具体元素值：
In [242]: df[\'c\'][1]=4  
  
In [243]: df  
Out[243]:   
   c  b  
0  1  1  
1  4  1   

#修改列
In [244]: df[\'c\']=5   
  
In [245]: df  
Out[245]:   
   c  b  
0  5  1  
1  5  1    

#修改行
df[:1]=6   
df  
Out[266]:   
   c  b  
0  6  6  
1  5  1    

修改行和列如果传入一组值得话，注意传入数组的长度，如果传入数组长度大于len(df) 则截断，小于df长度则置NaN

In [267]: df[0]=Series([1,2,3])  
  
In [268]: df  
Out[268]:   
   c  b  0  
0  6  6  1  
1  5  1  2  
  
In [269]: df[1]=Series([1,])  #增加一列，传入一个值  
  
In [270]: df  
Out[270]:   
   c  b  0   1  
0  6  6  1   1  
1  5  1  2 NaN    

选择对象

1. 选择特定列和行的数据

   a[\'x\'] 那么将会返回columns为x的列，注意这种方式一次只能返回一个列。a.x与a[\'x\']意思一样。

   取行数据，通过切片[]来选择
   如：a[0:3] 则会返回前三行的数据。

2. loc是通过标签来选择数据

   a.loc[\'one\']则会默认表示选取行为\'one\'的行；

   a.loc[:,[\'a\',\'b\'] ] 表示选取所有的行以及columns为a,b的列；

   a.loc[[\'one\',\'two\'],[\'a\',\'b\']] 表示选取\'one\'和\'two\'这两行以及columns为a,b的列；

   a.loc[\'one\',\'a\']与a.loc[[\'one\'],[\'a\']]作用是一样的，不过前者只显示对应的值，而后者会显示对应的行和列标签。

3. iloc则是直接通过位置来选择数据

   这与通过标签选择类似
   a.iloc[1:2,1:2] 则会显示第一行第一列的数据;(切片后面的值取不到)

   a.iloc[1:2] 即后面表示列的值没有时，默认选取行位置为1的数据;

   a.iloc[[0,2],[1,2]] 即可以自由选取行位置，和列位置对应的数据。

4. 使用条件来选择

   使用单独的列来选择数据
   a[a.c>0] 表示选择c列中大于0的数据

   使用where来选择数据
   a[a>0] 表直接选择a中所有大于0的数据

   使用isin()选出特定列中包含特定值的行
   a1=a.copy()
   a1[a1[\'one\'].isin([\'2\',\'3\'])] 表显示满足条件：列one中的值包含\'2\',\'3\'的所有行。

设置值（赋值）

赋值操作在上述选择操作的基础上直接赋值即可。
例

a.loc[:,[\'a\',\'c\']]=9 即将a和c列的所有行中的值设置为9
a.iloc[:,[1,3]]=9 也表示将a和c列的所有行中的值设置为9

同时也依然可以用条件来直接赋值
a[a>0]=-a 表示将a中所有大于0的数转化为负值

缺失值处理

在pandas中，使用np.nan来代替缺失值，这些值将默认不会包含在计算中。

1. reindex()方法

   用来对指定轴上的索引进行改变/增加/删除操作，这将返回原始数据的一个拷贝。
   a.reindex(index=list(a.index)+[\'five\'],columns=list(a.columns)+[\'d\'])

   a.reindex(index=[\'one\',\'five\'],columns=list(a.columns)+[\'d\'])

   即用index=[]表示对index进行操作，columns表对列进行操作。

2. 对缺失值进行填充

   a.fillna(value=x)
   表示用值为x的数来对缺失值进行填充

3. 去掉包含缺失值的行

   a.dropna(how=\'any\')
   表示去掉所有包含缺失值的行

合并

1. contact

   contact(a1,axis=0/1，keys=[\'xx\',\'xx\',\'xx\',...])

   其中a1表示要进行进行连接的列表数据,axis=1时表横着对数据进行连接。axis=0或不指定时，表将数据竖着进行连接。a1中要连接的数据有几个则对应几个keys，设置keys是为了在数据连接以后区分每一个原始a1中的数据。

   例：

   a1=[b[\'a\'],b[\'c\']]
result=**pd.concat**(a1,axis=1，keys=[\'1\',\'2\'])

2. Append 将一行或多行数据连接到一个DataFrame上

   a.append(a[2:],ignore_index=True)
   表示将a中的第三行以后的数据全部添加到a中，若不指定ignore_index参数，则会把添加的数据的index保留下来，若ignore_index=Ture则会对所有的行重新自动建立索引。

3. merge类似于SQL中的join

   设a1,a2为两个dataframe,二者中存在相同的键值，两个对象连接的方式有下面几种：
   (1)内连接，pd.merge(a1, a2, on=\'key\')
   (2)左连接，pd.merge(a1, a2, on=\'key\', how=\'left\')
   (3)右连接，pd.merge(a1, a2, on=\'key\', how=\'right\')
   (4)外连接， pd.merge(a1, a2, on=\'key\', how=\'outer\')
   至于四者的具体差别，具体学习参考sql中相应的语法。

分组(groupby)

用pd.date_range函数生成连续指定天数的的日期pd.date_range(\'20000101\',periods=10)

def shuju():
    data={
        \'date\':pd.date_range(\'20000101\',periods=10),
        \'gender\':np.random.randint(0,2,size=10),
        \'height\':np.random.randint(40,50,size=10),
        \'weight\':np.random.randint(150,180,size=10)
    }
a=DataFrame(data)
print(a)
        date  gender  height  weight
0 2000-01-01       0      47     165
1 2000-01-02       0      46     179
2 2000-01-03       1      48     172
3 2000-01-04       0      45     173
4 2000-01-05       1      47     151
5 2000-01-06       0      45     172
6 2000-01-07       0      48     167
7 2000-01-08       0      45     157
8 2000-01-09       1      42     157
9 2000-01-10       1      42     164

用a.groupby(\'gender\').sum()得到的结果为：

 #注意在python中groupby(\'\'xx)后要加sum()，不然显示不了数据对象。
gender     height  weight               
0           256     989
1           170     643

用a.groupby(\'gender\').size()可以对各个gender下的数目进行计数。

可以看到groupby的作用相当于：
按gender对gender进行分类，对应为数字的列会自动求和，而为字符串类型的列则不显示；当然也可以同时groupby([\'x1\',\'x2\',...])多个字段，其作用与上面类似。

groupby().max()
groupby().min()
groupby().mean()
groupby().sum()  

排序

按1列排序

（1）升序

frame.sort(columns = [\'a\'],axis = 0,ascending = True)  
  
Out[62]:   
   a  b  c  
3  1  2  3  
1  2  7  5  
2  5 -3  8  
0  9  4  6  
  
frame.sort_index(axis = 0,ascending = True,by = \'a\')  
  
Out[63]:   
   a  b  c  
3  1  2  3  
1  2  7  5  
2  5 -3  8  
0  9  4  6  
  
frame.sort_values(by = \'a\',axis = 0,ascending = True)  
Out[65]:   
   a  b  c  
3  1  2  3  
1  2  7  5  
2  5 -3  8  
0  9  4  6 

（2）降序

frame.sort(columns = [\'a\'],axis = 0,ascending = False)  
  
Out[67]:   
   a  b  c  
0  9  4  6  
2  5 -3  8  
1  2  7  5  
3  1  2  3  
  
frame.sort_index(axis = 0,ascending = False,by = \'a\')  
  
Out[68]:   
   a  b  c  
0  9  4  6  
2  5 -3  8  
1  2  7  5  
3  1  2  3  
  
frame.sort_values(by = \'a\',axis = 0,ascending = False) 
Out[69]:   
   a  b  c  
0  9  4  6  
2  5 -3  8  
1  2  7  5  
3  1  2  3  

按多列排序

frame = pandas.DataFrame({"a":[9,2,5,1,0,7],"b":[4,7,-3,2,2,2],"c":[6,5,8,3,4,4]})  

frame  
Out[73]:   
   a  b  c  
0  9  4  6  
1  2  7  5  
2  5 -3  8  
3  1  2  3  
4  0  2  4  
5  7  2  4  

(1) 升序

 frame.sort(columns = [\'b\',\'c\',\'a\'],axis = 0,ascending = True)  
  
Out[74]:   
   a  b  c  
2  5 -3  8  
3  1  2  3  
4  0  2  4  
5  7  2  4  
0  9  4  6  
1  2  7  5  
  
frame.sort_index(axis = 0,ascending = True,by = [\'b\',\'c\',\'a\'])  
  
Out[75]:   
   a  b  c  
2  5 -3  8  
3  1  2  3  
4  0  2  4  
5  7  2  4  
0  9  4  6  
1  2  7  5  
  
frame.sort_values(by = [\'b\',\'c\',\'a\'],axis = 0,ascending = True)  
Out[76]:   
   a  b  c  
2  5 -3  8  
3  1  2  3  
4  0  2  4  
5  7  2  4  
0  9  4  6  
1  2  7  5 

(2) 降序

frame.sort(columns = [\'b\',\'c\',\'a\'],axis = 0,ascending = False)  
  
Out[77]:   
   a  b  c  
1  2  7  5  
0  9  4  6  
5  7  2  4  
4  0  2  4  
3  1  2  3  
2  5 -3  8  
  
frame.sort_index(axis = 0,ascending = False,by = [\'b\',\'c\',\'a\'])  
  
Out[78]:   
   a  b  c  
1  2  7  5  
0  9  4  6  
5  7  2  4  
4  0  2  4  
3  1  2  3  
2  5 -3  8  
  
frame.sort_values(by = [\'b\',\'c\',\'a\'],axis = 0,ascending = False)  
Out[79]:   
   a  b  c  
1  2  7  5  
0  9  4  6  
5  7  2  4  
4  0  2  4  
3  1  2  3  
2  5 -3  8 

按行排序

data = {"b":[4,7,-3,2,2,2],"a":[9,2,5,1,0,7],"c":[6,5,8,3,4,4]}  
  
frame = pandas.DataFrame(data,columns = [\'b\',\'a\',\'c\'])  
  
frame  
Out[90]:   
   b  a  c  
0  4  9  6  
1  7  2  5  
2 -3  5  8  
3  2  1  3  
4  2  0  4  
5  2  7  4 

(1) 按行升序

 frame.sort_index(axis = 1,ascending = True)  
Out[91]:   
   a  b  c  
0  9  4  6  
1  2  7  5  
2  5 -3  8  
3  1  2  3  
4  0  2  4  
5  7  2  4 

(2) 按行降序

frame.sort_index(axis = 1,ascending = False)  
Out[97]:   
   c  b  a  
0  6  4  9  
1  5  7  2  
2  8 -3  5  
3  3  2  1  
4  4  2  0  
5  4  2  7

Categorical按某一列重新编码分类

如分组中中要对a中的gender进行greoupby重新编码分类，将对应的0，1转化为male，female，过程如下：

a[\'gender1\']=a[\'gender\'].astype(\'category\')
a[\'gender1\'].cat.categories=[\'male\',\'female\']  #即将0，1先转化为category类型再进行编码。

 print(a)得到的结果为：
      date    gender  height  weight gender1
0 2000-01-01       1      40     163  female
1 2000-01-02       0      44     177    male
2 2000-01-03       1      40     167  female
3 2000-01-04       0      41     161    male
4 2000-01-05       0      48     177    male
5 2000-01-06       1      46     179  female
6 2000-01-07       1      42     154  female
7 2000-01-08       1      43     170  female
8 2000-01-09       0      46     158    male
9 2000-01-10       1      44     168  female

所以可以看出重新编码后的编码会自动增加到dataframe最后作为一列。

相关操作

描述性统计：
1.a.mean() 默认对每一列的数据求平均值；若加上参数a.mean(1)则对每一行求平均值；

2.统计某一列x中各个值出现的次数：a[\'x\'].value_counts()；

3.对数据应用函数
a.apply(lambda x:x.max()-x.min())
表示返回所有列中最大值-最小值的差。

4.字符串相关操作
a[\'gender1\'].str.lower() 将gender1中所有的英文大写转化为小写，注意dataframe没有str属性，只有series有，所以要选取a中的gender1字段。

时间序列

用pd.date_range(\'xxxx\',periods=xx,freq=\'D/M/Y....\')函数生成连续指定天数的的日期列表。
例如

pd.date_range(\'20000101\',periods=10),其中periods表示持续频数；
pd.date_range(\'20000201\',\'20000210\',freq=\'D\')也可以不指定频数，只指定起始日期。

此外如果不指定freq，则默认从起始日期开始，频率为day。其他频率表示如下：

画图(plot)

在pycharm中首先要：import matplotlib.pyplot as plt
a=Series(np.random.randn(1000),index=pd.date_range(\'20100101\',periods=1000))
b=a.cumsum()
b.plot()
plt.show()    #最后一定要加这个plt.show()，不然不会显示出图来。

也可以使用下面的代码来生成多条时间序列图：

a=DataFrame(np.random.randn(1000，4),index=pd.date_range(\'20100101\',periods=1000),columns=list(\'ABCD\'))
b=a.cumsum()
b.plot()
plt.show()

导入和导出文件

写入和读取excel文件
虽然写入excel表时有两种写入xls和csv，但建议少使用csv，不然在表中调整数据格式时，保存时一直询问你是否保存新格式，很麻烦。而在读取数据时，如果指定了哪一张sheet，则在pycharm又会出现格式不对齐。

还有将数据写入表格中时，excel会自动给你在表格最前面增加一个字段，对数据行进行编号。

时间序列列表

import pandas as pd 
from datetime import datetime 
def datelist(beginDate, endDate): # beginDate,endDate是形如‘20160601’的字符串或datetime格式 
    date_l=[datetime.strftime(x,\'%Y-%m-%d\') 
        for x in list(pd.date_range(start=beginDate, end=endDate))] 
    return date_l