pandas去重的方法有:1、使用drop_duplicates()方法;2、使用duplicated()方法;3、使用unique()方法;4、使用value_counts()方法。详细介绍:1、使用drop_duplicates()方法,用于删除数据框中重复的行并返回一个新的数据框,它可以设置参数来控制如何进行去重,比如指定去重后的保留顺序、去重时的比较列等等。
本教程操作系统:windows10系统、DELL G3电脑。
Pandas是一个强大的Python数据分析库,提供了多种去重的方法。以下是使用Pandas进行去重操作的常见方法:
1、使用drop_duplicates()方法
drop_duplicates()方法用于删除数据框中重复的行并返回一个新的数据框。它可以设置参数来控制如何进行去重,比如指定去重后的保留顺序、去重时的比较列等。
示例代码:
import pandas as pd
df = pd.DataFrame({'A': [1, 2, 1, 2, 3], 'B': [4, 5, 6, 7, 8]})
df_unique = df.drop_duplicates() # 默认情况下,按行进行去重,返回新的数据框
2、使用duplicated()方法
duplicated()方法用于查找数据框中重复的行并返回一个布尔系列。它可以设置参数来控制如何进行去重,比如指定去重后的保留顺序、去重时的比较列等。
示例代码:
import pandas as pd
df = pd.DataFrame({'A': [1, 2, 1, 2, 3], 'B': [4, 5, 6, 7, 8]})
df_unique = df[~df.duplicated()] # 使用duplicated()方法查找重复的行,并使用逻辑非运算符返回不重复的行
3、使用unique()方法
unique()方法用于返回数据框中所有唯一的值,并返回一个列表或Series对象。它可以用于单列或多列的去重。
示例代码:
import pandas as pd
df = pd.DataFrame({'A': [1, 2, 1, 2, 3], 'B': [4, 5, 6, 7, 8]})
df_unique = df.apply(lambda x: pd.Series(x.unique())) # 使用apply()方法对每一列进行去重,并返回一个Series对象
4、使用value_counts()方法
value_counts()方法用于统计数据框中每个值的出现次数,并返回一个Series对象。它可以用于单列或多列的去重。
示例代码:
import pandas as pd
df = pd.DataFrame({'A': [1, 2, 1, 2, 3], 'B': [4, 5, 6, 7, 8]})
df_unique = df.groupby(df.columns.tolist()).size().reset_index(name='counts') # 对整个数据框进行分组计数,并返回一个Series对象,然后使用reset_index()方法转换为数据框格式,方便查看每个值的出现次数