pandas初学习

Posted 2021-03-08 wt714

简介

Pandas [1] 是python的一个数据分析包，最初由AQR Capital Management于2008年4月开发，并于2009年底开源出来，目前由专注于Python数据包开发的PyData开发team继续开发和维护，属于PyData项目的一部分。Pandas最初被作为金融数据分析工具而开发出来，因此，pandas为时间序列分析提供了很好的支持。 Pandas的名称来自于面板数据（panel data）和python数据分析（data analysis）。panel data是经济学中关于多维数据集的一个术语，在Pandas中也提供了panel的数据类型。

数据结构

• Series：一维数组，与Numpy中的一维array类似。二者与Python基本的数据结构List也很相近，其区别是：List中的元素可以是不同的数据类型，而Array和Series中则只允许存储相同的数据类型，这样可以更有效的使用内存，提高运算效率。
• Time- Series：以时间为索引的Series。
• DataFrame：二维的表格型数据结构。很多功能与R中的data.frame类似。可以将DataFrame理解为Series的容器。以下的内容主要以DataFrame为主。
• Panel ：三维的数组，可以理解为DataFrame的容器。

终端输入

Jupyter Notebook

导入相关模块

import numpy as np
import pandas as pd 
from pandas import Series, DataFrame

Series

Series是一种类似于一维数组的对象，它由一组数据（各种NumPy数据类型）以及一组与之相关的数据标签（即索引）组成。

实质上是创建了一个 Series 对象，这也就说明了为什么会有index和values.

Series自定义索引

Series自定义索引的另一种方法

在这里就引入另一个概念“自动对齐”。自定义的索引会自动去寻找原来的索引，如果一样的，就取出原来索引对应的值。

在 Pandas 中，如果没有值，都对齐赋给 NaN。

当然上面的代码也可以写成这样

Series判断值是否为空

DataFrame

一个Datarame表示一个表格，类似电子表格的数据结构，包含一个经过排序的列表集，它们没一个都可以有不同的类型值（数字，字符串，布尔等等）。Datarame有行和列的索引；它可以被看作是一个Series的字典（每个Series共享一个索引）。

构建DataFrame最常用的方法——直接传入一个由等长列表或NumPy数组组成的字典

如果指定了列序列，则DataFrame的列就会按照指定的顺序进行排列

如果传入的列在数据中找不到，就会产生NAN值

通过行、列进行获取

• 通过类似字典标记的方式或属性的方式，可以将DataFream的列获取为一个Series:
• 同理行也可以通过位置或名称的方式进行获取

基本功能

---

重新索引

Series的reindex将会根据新索引进行,如果某个索引值当前不存在，就引入缺失值

• reindex的method选项

  • ffill或pad 向前填充值
  • bfill或backfill 向后填充值

对于DataFrame，reindex可以修改行、列或者两个都可以修改。如果仅传入一个序列，则会重新索引行

• reindex函数的参数

参数	说明
index	用作索引的新序列。既可以是index实例，也可以是其他序列型python数据结构
method	插值方式
fill_value	在重新索引过程中，需要引入缺失值时使用的代替值
limit	前向或后向填充时的最大填充量
level	在Multilndex的指定级别上匹配简单索引，否则选取其子集
copy	默认为true,无论如何都复制；如果为false，则新旧相等就不复制

索引、选取和过滤

类型	说明
obj[val]	选取DataFrame的单个列或一组列。在一些特殊的情况下会比较便利：布尔型数组（过滤行）
obj.ix[val]	选取DataFrame的单个行或一组行
obj.ix[:,val]	选取单个列或列子集
obj.ix[val1,val2]	同时选取行和列
reindex方法	将一个或多个轴匹配到新索引
xs方法	根据标签选取单行或单列，并返回一个Series
icol、irow方法	根据整数位置选取单行或单列，并返回一个Series
get_value、set_value方法	根据行标签或列标签选取单个值