在使用python做数据分析的时候,经常需要先对数据做统一化的处理,缺失值的处理是经常会使用到的。
一般情况下,缺失值的处理要么是删除缺失数据所在的行,要么就是对缺失的单元格数据进行填充。
今天介绍的是使用差补法/均值/固定值等不同的方式完成数据填充从而保证数据的完整性!
这里采用的还是pandas模块的DataFrame数据对象来做数据处理,因此,没有pandas的话使用pip的方式安装一下即可。
pip install pandas
下面是我们需要处理的源数据,由于是本地测试数据,数据量比较小。
使用pandas模块的read_excel函数将源数据全部读取出来返回DataFrame对象。
# Importing the pandas module and giving it the alias pd.
import pandas as pd
# Reading the excel file and storing it in a dataframe.
data_frame = pd.read_excel('D:/test-data-work/data.xlsx')
# Printing the dataframe.
print(data_frame)
# 姓名 年龄 班级 成绩 表现
# 0 Python 集中营 10.0 1210.0 99.0 A
# 1 Python 集中营 11.0 1211.0 100.0 A
# 2 Python 集中营 12.0 1212.0 101.0 A
# 3 Python 集中营 13.0 1213.0 102.0 A
# 4 Python 集中营 14.0 1214.0 103.0 NaN
# 5 Python 集中营 15.0 1215.0 104.0 A
# 6 Python 集中营 16.0 1216.0 105.0 A
# 7 Python 集中营 17.0 NaN 106.0 A
# 8 Python 集中营 18.0 1218.0 NaN A
# 9 Python 集中营 19.0 1219.0 108.0 A
# 10 Python 集中营 NaN 1220.0 109.0 NaN
# 11 Python 集中营 NaN NaN 110.0 A
# 12 Python 集中营 NaN 1222.0 NaN A
# 13 Python 集中营 23.0 1223.0 112.0 A
# 14 Python 集中营 24.0 1224.0 113.0 A
# 15 Python 集中营 25.0 NaN NaN NaN
# 16 Python 集中营 NaN 1226.0 115.0 A
# 17 Python 集中营 27.0 1227.0 NaN A
# 18 Python 集中营 10.0 1210.0 99.0 NaN
源数据已经读取完成了,接下来使用四种常见的缺失值的处理方式来进行批量的数据填充。
1. 固定值填充
固定值填充也是一种比较简单并且常用的填充方式,只需要给某个列填充自己想要填充的值即可。
这里我们把'表现'这一个列的空值全部填充成'B',fillna函数就是填充空值的意思。
# Replacing all the NaN values in the column '表现' with the value 'B'.
data_frame['表现'] = data_frame['表现'].fillna('B')
# Printing the dataframe.
print(data_frame)
# 姓名 年龄 班级 成绩 表现
# 0 Python 集中营 10.0 1210.0 99.0 A
# 1 Python 集中营 11.0 1211.0 100.0 A
# 2 Python 集中营 12.0 1212.0 101.0 A
# 3 Python 集中营 13.0 1213.0 102.0 A
# 4 Python 集中营 14.0 1214.0 103.0 B
# 5 Python 集中营 15.0 1215.0 104.0 A
# 6 Python 集中营 16.0 1216.0 105.0 A
# 7 Python 集中营 17.0 NaN 106.0 A
# 8 Python 集中营 18.0 1218.0 NaN A
# 9 Python 集中营 19.0 1219.0 108.0 A
# 10 Python 集中营 NaN 1220.0 109.0 B
# 11 Python 集中营 NaN NaN 110.0 A
# 12 Python 集中营 NaN 1222.0 NaN A
# 13 Python 集中营 23.0 1223.0 112.0 A
# 14 Python 集中营 24.0 1224.0 113.0 A
# 15 Python 集中营 25.0 NaN NaN B
# 16 Python 集中营 NaN 1226.0 115.0 A
# 17 Python 集中营 27.0 1227.0 NaN A
# 18 Python 集中营 10.0 1210.0 99.0 B
2. 均值填充
均值填充就是将缺失值所在列的数据进行一次均值计算,计算出结果后再填充到缺失值所在的单元格上面。
使用均值填充的前提是这一列的数据可以进行均值计算,比如'成绩'这一列都是数字可以使用mean函数做均值计算。
# Replacing all the NaN values in the column '成绩' with the mean of the column '成绩'.
data_frame['成绩'] = data_frame['成绩'].fillna(data_frame['成绩'].mean())
# It's printing the dataframe.
print(data_frame)
# 姓名 年龄 班级 成绩 表现
# 0 Python 集中营 10.0 1210.0 99.000000 A
# 1 Python 集中营 11.0 1211.0 100.000000 A
# 2 Python 集中营 12.0 1212.0 101.000000 A
# 3 Python 集中营 13.0 1213.0 102.000000 A
# 4 Python 集中营 14.0 1214.0 103.000000 B
# 5 Python 集中营 15.0 1215.0 104.000000 A
# 6 Python 集中营 16.0 1216.0 105.000000 A
# 7 Python 集中营 17.0 NaN 106.000000 A
# 8 Python 集中营 18.0 1218.0 105.733333 A
# 9 Python 集中营 19.0 1219.0 108.000000 A
# 10 Python 集中营 NaN 1220.0 109.000000 B
# 11 Python 集中营 NaN NaN 110.000000 A
# 12 Python 集中营 NaN 1222.0 105.733333 A
# 13 Python 集中营 23.0 1223.0 112.000000 A
# 14 Python 集中营 24.0 1224.0 113.000000 A
# 15 Python 集中营 25.0 NaN 105.733333 B
# 16 Python 集中营 NaN 1226.0 115.000000 A
# 17 Python 集中营 27.0 1227.0 105.733333 A
# 18 Python 集中营 10.0 1210.0 99.000000 B
可以发现计算出的均值是105.733333,已经都填充到'成绩'这一列的缺失值上面了。
3. 中位数填充
中位数填充和均值填充差不多是一样的,不同的是使用median函数来计算缺失值所在列的中位数。
# Replacing all the NaN values in the column '年龄' with the median of the column '年龄'.
data_frame['年龄'] = data_frame['年龄'].fillna(data_frame['年龄'].median())
# It's printing the dataframe.
print(data_frame)
# 姓名 年龄 班级 成绩 表现
# 0 Python 集中营 10.0 1210.0 99.000000 A
# 1 Python 集中营 11.0 1211.0 100.000000 A
# 2 Python 集中营 12.0 1212.0 101.000000 A
# 3 Python 集中营 13.0 1213.0 102.000000 A
# 4 Python 集中营 14.0 1214.0 103.000000 B
# 5 Python 集中营 15.0 1215.0 104.000000 A
# 6 Python 集中营 16.0 1216.0 105.000000 A
# 7 Python 集中营 17.0 NaN 106.000000 A
# 8 Python 集中营 18.0 1218.0 105.733333 A
# 9 Python 集中营 19.0 1219.0 108.000000 A
# 10 Python 集中营 16.0 1220.0 109.000000 B
# 11 Python 集中营 16.0 NaN 110.000000 A
# 12 Python 集中营 16.0 1222.0 105.733333 A
# 13 Python 集中营 23.0 1223.0 112.000000 A
# 14 Python 集中营 24.0 1224.0 113.000000 A
# 15 Python 集中营 25.0 NaN 105.733333 B
# 16 Python 集中营 16.0 1226.0 115.000000 A
# 17 Python 集中营 27.0 1227.0 105.733333 A
# 18 Python 集中营 10.0 1210.0 99.000000 B
4. 插补法填充
差补法填充可以根据该列的上一个数据和下一个数据得到该单元格需要插入的数据是多少。
比如:上一个班级是1220,下一个班级是1222,那么该单元格需要插入的数据应该是1221。
# Replacing all the NaN values in the column '班级' with the interpolated values of the column '班级'.
data_frame['班级'] = data_frame['班级'].interpolate()
# It's printing the dataframe.
print(data_frame)
# 姓名 年龄 班级 成绩 表现
# 0 Python 集中营 10.0 1210.0 99.000000 A
# 1 Python 集中营 11.0 1211.0 100.000000 A
# 2 Python 集中营 12.0 1212.0 101.000000 A
# 3 Python 集中营 13.0 1213.0 102.000000 A
# 4 Python 集中营 14.0 1214.0 103.000000 B
# 5 Python 集中营 15.0 1215.0 104.000000 A
# 6 Python 集中营 16.0 1216.0 105.000000 A
# 7 Python 集中营 17.0 1217.0 106.000000 A
# 8 Python 集中营 18.0 1218.0 105.733333 A
# 9 Python 集中营 19.0 1219.0 108.000000 A
# 10 Python 集中营 16.0 1220.0 109.000000 B
# 11 Python 集中营 16.0 1221.0 110.000000 A
# 12 Python 集中营 16.0 1222.0 105.733333 A
# 13 Python 集中营 23.0 1223.0 112.000000 A
# 14 Python 集中营 24.0 1224.0 113.000000 A
# 15 Python 集中营 25.0 1225.0 105.733333 B
# 16 Python 集中营 16.0 1226.0 115.000000 A
# 17 Python 集中营 27.0 1227.0 105.733333 A
# 18 Python 集中营 10.0 1210.0 99.000000 B
到此这篇关于Python数据预处理时缺失值的不同处理方式总结的文章就介绍到这了,更多相关Python数据预处理内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!