pandas常用函数整理,作为个人笔记。
仅标记函数大概用途做索引用,具体使用方式请参照pandas官方技术文档。
约定
from pandas import Series, DataFrame
import pandas as pd
import numpy as np
带.的为Series或者DataFrame对象的方法,只列举了部分关键字参数。
1、基础
.values 获取值,返回array对象
.index 获取(行)索引,返回索引对象
Series( index=) 创建Series,可指定索引
pd.isnull pd.notnull 返回是否为缺失值的布尔型数组
.isnull 同上
DataFrame(columns=,index=) 创建DataFrame,可指定行索引,列索引
.T 行列转置
del 关键字 删除
.reindex(method=, fill_value=, index=, columns=) 重新索引,即按照新索引创建新对象,可指定缺失值 填充方式,缺失值插值方式,行索引,列索引
.ix[ , ] 同上,添入行、列索引,可传入列表
.drop(axis=) 删除指定轴上的指定值
.apply(axis=) 沿指定轴应用函数
.sort_index(axis=, by=列名) 对索引排序,可根据指定列的值进行排序
.order 按值排序
.rank(ascending=, method=, axis=) 排名
.index.is_unique 检查索引值唯一性(是否有重复项)
2、约简类,可指定轴、是否排除缺失值、层次化索引分组约简。
.sum(axis=, skipna=, level=) 求和
.mean 均值
.idxmax 返回最大值索引
.cumsum 累积和
.describe统计描述汇总
.count 非nan值数量
.min 最小值
.quantile 分位数
.median 中位数
.mad 平均绝对离差
.var 方差
.std 标准差
.skew 偏度
.kurt 峰度
.cumprod 累积积
.diff
.pct_change
.tail 显示尾行,五个
.head 显示开始行,五个
.corr 求相关系数(Series和Series,或者DataFrame和DataFrame)
.cov 求协方差
.corrwith 求相关系数(DataFrame的行或列 与Series或DataFrame)
.unique 得到唯一值数组
.value_counts(sort=) 求值频率,可传入False指定降序排列
.isin 判断成员资格
.dropna(how=, axis=, thresh=) 丢弃缺失数据,对DataFrame可指定丢弃方式
.fillna(inplace=,method=, limit=) 用指定值或字典填充缺失数据,可指定是否就地修改,填充方式,填充数量限制
.unstack 行索引转列索引
.stack 列索引转行索引
MultiIndex.from_arrays 用数组构建层次化索引
.swaplevel 重排层次化索引分级顺序
.sortlevel 根据单个级别的值对数据排序
.set_index(drop=) 将某一列转为行索引
.reset_index 将行索引转为列
.irow 根据整数位置选取行
.icol 根据整数位置选取列
pd.Panel 创建面板数据
.to_panel DataFrame转换为Panel
.to_frame Panel转换为DataFrame
3、数据读取
pd.read_csv(sep=, delim_whitespace=, header=,skiprows=,converters=,keep_date_col=,parse_date=,na_values=,nrows=,skip_footer=, )
最常用的csv和text文件读取方式
.to_csv 将数据写入csv
.from_csv 从csv读取数据
4、数据规整
pd.merge(on=,how=,suffixes=,left_index=,right_index=) 横向合并
.join(how=, on=, ) 按索引合并,可传入一组DataFrame
pd.concat(axis=,join=,join_axes=,keys=,names=,ignore_index=) 纵向连接,也可以传入轴进行横向连接
np.nan nan值
np.where 矢量化if-else表达,第一个为判断条件,可为布尔型数组,后面两个为值
.combine_first 用一个数据为另一个数据“打补丁”
.pivot 长格式转宽格式,指定行索引,列索引名,填充值列
.duplicated 返回布尔型Series,表示各行是否是重复行(第一次出现的值为False,再次出现为True)
.drop_duplicates(take_last=) 返回移除了重复行的DataFrame,可指定是保留第一个还是最后一个
.map 元素级转换函数,可将函数应用于Series或DataFrame某列
.replace 替换指定值,第一个参数为要被替换的值,第二个是用来替换的值,支持字典
.rename(index=, columns=,inplace=) 轴标签更新,接受字典,可就地修改
pd.cut(right=,labels=) 面元划分
pd.value_counts 值频率计算
.any 可用来过滤异常值,里面为容忍度整数
.take 按指定顺序重排序,可接受列表
np.random.permutation 产生随机重排列
pd.get_dummies(prefix=) 计算哑变量矩阵,可指定列前缀
字符串对象方法
.split 按指定值拆分字符串
.strip 修剪空白符和换行符
.join 用指定值连接字符串
.index 返回索引,找不到则引发异常
.find 返回索引,找不到返回-1
.count 返回指定子串出现次数
re.compile 编译regex对象
re.compile.findall 得到匹配regex的所有模式
pd中的方法
.str.contains 按指定模式搜索,返回布尔型数组
.str.match 按指定模式获取
.str.get 按指定模式获取
.str[] 按指定模式获取
5、分组运算
.groupby(level=, axis=,group_keys=) 进行按列分组,然后就可以调用进行聚合或其他运算了
.size 返回含有分组大小的Series
.agg(as_index=) 可对已经分组的对象应用,传入函数,或者针对不同列的不同函数,用字典。
.add_prefix 为列索引加前缀
.transform 传入函数,将指定函数应用到各个分组,将结果放置到适当的位置
.apply() 一般性的“拆分-应用-合并”函数,超级有用
pd.pivot_table(rows=, cols=, margins=, aggfunc=, fill_value=,) 分组聚合,可指定需要聚合的列,分组列,添加分项小计,传入聚合函数,缺失值设置。
pd.crosstab计算分组频率的交叉表
6、时序分析
from datetime import datetime
datetime.now 获取当前时间
now.year 年
now.month 月
now.day 日
.strftime 日期转为字符串,可指定格式
.strptime 字符串转为日期,可指定格式
from dateutil.parser import parse
parse 解析日期
pd.to_datetime 解析日期
pd.date_range(periods=, freq=) 生成日期索引
pd.DatetimeIndex 创建时间序列
.resample(how=,closed=,loffset=,fill_method=,limit=) 重采样
.shift(freq=) 数据前移或滞后,正数为滞后,可指定周期
.tz_locallize 将单纯时区转本地化
.tz_convert 对本地化时区进行时区转换
pd.Timestamp 创建时间戳序列
pd.Period 创建时期序列
pd.period_range 创建时期范围序列
pd.PeriodIndex 创建时期索引
.asfreq 时期频率转换
.to_timestamp 时期转时间戳
.to_period 时间戳转时期
.plot 画图
缺点和不足:未针对Series和DataFrame的方法做明确区别;index对象的方法未列举;其他数据读入方式未列取;关键字参数仅列举了部分;可视化未列举;时序分析写的过简;pandas版本存在更新,函数及参数未完全验证;一些操作技巧未说明。
补充:了解基础部分就可以辅助完成策略编写,而分组运算和时序分析部分函数不多,但灵活性很强,对个人研究的数据处理帮助较大,可以轻松画出经典技术指标图,或者构建自己的技术指标。更多统计分析与建模,还需要其他库的支持。
阅读原文:http://suo.im/3UWOOP