这篇文章主要介绍了pandas常规操作有哪些,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。
一 聚合函数
1. numpy、pandas使用的统计方式
在数组中经常使用的聚合方式data[['counts', 'ches_name']].agg([np.mean, np.std])agg({'xx':np.mean, 'xx2':[np.sum, np.std]})
2. 在pandas或者numpy中没有现成的函数可以使用,可以使用transform自定义函数
如: 将指定列的全部数据 * 2
方式一data['counts'].transform(lambda x: x*2)
方式二:按照函数内既定的规则,进行指定数据的操作def transform_func(values):"""自定义函数,定义数据操作规则"""return values*2data['counts'].transform(transform_func) # 一维data1 = data.groupby(by='品牌')['销售额'].transform(tran_func) # 分组之后自定义聚合
推荐好课:Python 自动化办公
二 透视表 - pivot_table
源码参数分析def pivot_table( data, # Dataframe,对哪张表进行操作 values=None, # 显示的字段 index=None, # 行分组键,可以是数组,列表,如果是数组,必须有一样的长度 columns=None, # 列分组键 aggfunc="mean", # 聚合函数, 默认是mean fill_value=None, # 填充空值, 将为Nan的值填充为对应的值 margins=False, # 汇总开关,默认是False dropna=True, margins_name="All", # 汇总的列或者行的bolumns,可以指定修改名称 observed=False,
1、index: 行分组键,分完组后,分组键的取值在行索引的位置上
pd.pivot_table(data, index=['order_id', 'dishes_name'], aggfunc=[np.mean, np.sum], values=['add_inprice', 'counts']) mean sum add_inprice counts add_inprice countsorder_id dishes_name 137 农夫山泉NFC果汁100% 0 1 0 1 凉拌菠菜 0 1 0 1 番茄炖牛腩\r\n 0 1 0 1 白饭/小碗 0 4 0 4 西瓜胡萝卜沙拉 0 1 0 1... ... ... ... ...1323 番茄炖秋葵 0 1 0 1 芝士烩波士顿龙虾 0 1 0 1 芹黄鳝丝 0 1 0 1 蒜蓉生蚝 0 1 0 1 谷稻小庄 0 1 0 1[2778 rows x 4 columns]
2、columns: 列分组键,分完组后,分组键的取值在列索引上
pd.pivot_table(data, columns= ['order_id', 'amounts'], aggfunc=[np.mean, np.sum], values=['add_inprice', 'counts'])# 列分组键,可以说是行分组键的转置 mean ... sum order_id 137 165 ... 1323 amounts 1 6 26 27 35 99 9 ... 39 49 58 65 78 80 175add_inprice 0.0 0.0 0.0 0.0 0.0 0.0 0.0 ... 0 0 0 0 0 0 0counts 4.0 1.0 1.0 1.0 1.0 1.0 1.5 ... 1 1 1 1 1 1 1[2 rows x 4956 columns]
3、结合使用
# aggfunc 聚合函数# fill_value 为空的,怎么显示,默认为Nan# margins 汇总,默认是不汇总# margins_name 汇总列或者行字段名称,默认为allpd.pivot_table(data, index=['dishes_name'], columns='order_id', values='counts', aggfunc=np.sum, fill_value=0, margins=True, margins_name='总')dishes_name 42度海之蓝 北冰洋汽水 38度剑南春 50度古井贡酒 ... 黄油曲奇饼干 黄花菜炒木耳 黑米恋上葡萄 总order_id ... 137 0 0 0 0 ... 0 0 0 9165 0 0 1 0 ... 0 1 0 21166 0 0 0 0 ... 0 0 0 7171 0 0 0 0 ... 0 0 0 10177 0 0 0 0 ... 0 0 0 4... ... ... ... ... ... ... ... ... ...1314 0 0 1 0 ... 0 0 0 121317 0 0 0 0 ... 0 0 0 181319 0 0 0 0 ... 0 0 0 91323 0 0 1 0 ... 0 0 0 15总 5 45 6 5 ... 5 15 18 3088
推荐好课:Python 自动化管理
三 交叉表-crosstab
def crosstab( index, # 行分组键 columns, # 列分组键 values=None, # 显示的字段 rownames=None, # 行name colnames=None, # 列name aggfunc=None, # 聚合函数 margins=False, # 汇总 margins_name: str = "All", # 汇总列或者行的名称 dropna: bool = True, normalize=False,
基本语法
pd.crosstab(index = data['dishes_name'], columns=data['order_id'], values=data['counts'], aggfunc = np.sum)dishes_name 42度海之蓝 北冰洋汽水 38度剑南春 ... 黄油曲奇饼干 黄花菜炒木耳 黑米恋上葡萄order_id ... 137 NaN NaN NaN ... NaN NaN NaN165 NaN NaN 1.0 ... NaN 1.0 NaN166 NaN NaN NaN ... NaN NaN NaN171 NaN NaN NaN ... NaN NaN NaN177 NaN NaN NaN ... NaN NaN NaN... ... ... ... ... ... ... ...1309 NaN NaN NaN ... NaN NaN NaN1314 NaN NaN 1.0 ... NaN NaN NaN1317 NaN NaN NaN ... NaN NaN NaN1319 NaN NaN NaN ... NaN NaN NaN1323 NaN NaN 1.0 ... NaN NaN NaN[278 rows x 156 columns]
四 表格合并
1、每个表的列都相同,pd.concat((df1, df2, df3 … ))
axis = 0 : 纵向合并axis = 1:横向合并,索引对应合并
函数源码def concat( objs: Union[Iterable["NDFrame"], Mapping[Label, "NDFrame"]], # 传入的是Df格式 axis=0, # 进行合并的方向 join="outer", # 默认使用的外连接 ignore_index: bool = False, # 重置排序索引 keys=None, levels=None, names=None, verify_integrity: bool = False, sort: bool = False, copy: bool = True,
left = pd.DataFrame({'key1': ['K0', 'K0', 'K1', 'K3'], 'key2': ['K0', 'K1', 'K0', 'K1'], 'A': ['A0', 'A1', 'A2', 'A3'], 'B': ['B0', 'B1', 'B2', 'B3']})right = pd.DataFrame({'key1': ['K0', 'K1', 'K1', 'K2'], 'key2': ['K0', 'K0', 'K0', 'K0'], 'C': ['C0', 'C1', 'C2', 'C3'], 'D': ['D0', 'D1', 'D2', 'D3']}) pd.concat((left, right), axis = 0, join = 'inner') # 指定使用内连接,进行合并,默认使用的是outer pd.concat((left, right), axis = 1, join = 'inner')
2、 表合并,解决行索引没有意义情况下,数据行不匹配问题(解决concat横向拼接问题)
def merge( left, # 左表 right, # 右表 how: str = "inner", # 默认是内连接, on=None, # 必须是两张表中有公共的主键,才能作为主键 left_on=None, # 左表主键 right_on=None, # 右表主键 left_index: bool = False, right_index: bool = False, sort: bool = False, suffixes=("_x", "_y"), copy: bool = True, indicator: bool = False, validate=None,
(1) 两表中有相同的主键
on 连接的主键,两表中共有的主键how 连接的方式,默认使用的是内连接outer外连接,返回全部 inner内连接返回等值连接 left以左表为主 right以右表为主pd.merge(left, right, on='key1', how='outer') key1 key2_x A B key2_y C D0 K0 K0 A0 B0 K0 C0 D01 K0 K1 A1 B1 K0 C0 D02 K1 K0 A2 B2 K0 C1 D13 K1 K0 A2 B2 K0 C2 D24 K3 K1 A3 B3 NaN NaN NaN5 K2 NaN NaN NaN K0 C3 D3
多个相同主键连接pd.merge(left, right, on=['key1', 'key2'], how='outer') key1 key2 A B C D0 K0 K0 A0 B0 C0 D01 K0 K1 A1 B1 NaN NaN2 K1 K0 A2 B2 C1 D13 K1 K0 A2 B2 C2 D24 K3 K1 A3 B3 NaN NaN5 K2 K0 NaN NaN C3 D3
(2) 两表中没有相同的主键
left_on : 指定左表中的主键right_on : 指定右表中的主键pd.merge(left, right, left_on = 'key1', right_on = 'key2', how='outer') key1_x key2_x A B key1_y key2_y C D0 K0 K0 A0 B0 K0 K0 C0 D01 K0 K0 A0 B0 K1 K0 C1 D12 K0 K0 A0 B0 K1 K0 C2 D23 K0 K0 A0 B0 K2 K0 C3 D34 K0 K1 A1 B1 K0 K0 C0 D05 K0 K1 A1 B1 K1 K0 C1 D16 K0 K1 A1 B1 K1 K0 C2 D27 K0 K1 A1 B1 K2 K0 C3 D38 K1 K0 A2 B2 NaN NaN NaN NaN9 K3 K1 A3 B3 NaN NaN NaN NaN
(3) 更改表格名称的方法
left.rename(columns={'key1': 'key11111'}, inplace=True)print(left) key11111 key2 A B
(4) 重叠合并,目的是将残缺的表,合并为完整的表df1.combine_first(df2)
主表.combine_first(附表)dict1 = {'ID':[1,2,3,4,5,6,7,8,9], 'System':['W10','w10',np.nan,'w10',np.nan,np.nan,'w7','w7','w8']}
dict2 = {'ID':[1,2,3,4,5,6,7,8,9],
'System':[np.nan,np.nan,'w7','w7','w7','w7','w8',np.nan,np.nan]}
df1 = pd.DataFrame(dict1)
df2 = pd.DataFrame(dict2)
print(df1,df2) # 谁在前,为主表,主表中没有的补全,有的值,不动
print(df1.combine_first(df2))
ID System 0 1 W10 1 2 w10 2 3 w7 3 4 w10 4 5 w7 5 6 w7 6 7 w7 7 8 w7 8 9 w8
感谢你能够认真阅读完这篇文章,希望小编分享的“pandas常规操作有哪些”这篇文章对大家有帮助,同时也希望大家多多支持编程网,关注编程网行业资讯频道,更多相关知识等着你来学习!