文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

R语言 用均值替换、回归插补及多重插补进行插补的操作

2024-04-02 19:55

关注

用均值替换、回归插补及多重插补进行插补


# 设置工作空间
# 把“数据及程序”文件夹拷贝到F盘下,再用setwd设置工作空间
setwd("E:\\R_workspace\\R语言数据分析与挖掘实战\\chp4")
# 读取销售数据文件,提取行
inputfile <- read.csv('./data/catering_sale.csv', header = TRUE) 
View(inputfile)
# 变换变量名
inputfile <- data.frame(sales = inputfile$'销量', date = inputfile$'日期')
View(inputfile)
# 数据截取
inputfile <- inputfile[5:16, ]
View(inputfile)
# 缺失数据的识别
is.na(inputfile) # 判断是否存在缺失
n <- sum(is.na(inputfile)) # 输出缺失值个数
n
# 异常值识别
par(mfrow = c(1, 2)) # 将绘图窗口划为1行两列,同时显示两图
dotchart(inputfile$sales) # 绘制单变量散点图
boxplot(inputfile$sales, horizontal = TRUE) # 绘制水平箱形图
# 异常数据处理
inputfile$sales[5] = NA # 将异常值处理成缺失值
fix(inputfile) # 表格形式呈现数据
# 缺失值的处理
inputfile$date <- as.numeric(inputfile$date) # 将日期转换成数值型变量
sub <- which(is.na(inputfile$sales)) # 识别缺失值所在行数
sub
# 将数据集分成完整数据和缺失数据两部分
inputfile1 <- inputfile[-sub, ] 
inputfile2 <- inputfile[sub, ]
# 行删除法处理缺失,结果转存
result1 <- inputfile1
View(result1)
# 均值替换法处理缺失,结果转存
avg_sales <- mean(inputfile1$sales) # 求变量未缺失部分的均值
avg_sales
# 用均值替换缺失
inputfile2$sales <- rep(avg_sales,n) 
# 并入完成插补的数据
result2 <- rbind(inputfile1, inputfile2) 
View(result2)
# 回归插补法处理缺失,结果转存
# 回归模型拟合
# 注意:因变量~自变量
model <- lm(sales ~ date, data = inputfile1) 
# 模型预测
inputfile2$sales <- predict(model, inputfile2) 
result3 <- rbind(inputfile1, inputfile2)
# 多重插补法处理缺失,结果转存
library(lattice) # 调入函数包
library(MASS)
library(nnet)
library(mice) # 前三个包是mice的基础
# 4重插补,即生成4个无缺失数据集
imp <- mice(inputfile, m = 4) 
# 选择插补模型
# inputfile为原始数据,有缺失
fit <- with(imp,lm(sales ~ date, data = inputfile)) 
# m重复完整数据分析结果池
pooled <- pool(fit)
summary(pooled)
result4 <- complete(imp, action = 3) # 选择第三个插补数据集作为结果

补充:R语言数据缺失值处理(随机森林,多重插补)

缺失值是指数据由于种种因素导致的数据不完整,可以分为机械原因和人为原因。对于缺失值我们通常采用以下几种方法来进行插补。

1.读取数据

通过read.csv函数导入文档,也可以用其他函数读入,如openxlsx::read.xlsx,read.table等。

head()查看数据前几行。


airquality <- read.csv(data.csv)
head(airquality)

2.检查数据完整性

首先,summary()查看数据基本信息


summary(airairquality)

可以看到Ozone中存在缺失值NA

通过调用VIM::aggr()查看函数的缺失值(如果包安装较慢,可选用本地安装,链接已附需自行下载)


#install.packages(‘VIM')
library(VIM)
aggr(airquality)

通过上图,可以看到Ozone和Solar.R存在缺失值。

3.缺失值填补

3.1简单处理填补

(1)删除缺失值

若样本中存在较少缺失值或缺失值比例较小不影响分析结果时,可选择直接将缺失值删除。


dat1 <- na.omit(airquality)

(2)平均值、中位数填补

若不能直接将缺失值删除也可选择平均值、众数、中位数等进行填补


#平均值填补
airquality$ Ozone[is.na(airquality$Ozone)] <- mean(airquality $ Ozone,na.rm=T)
#中位数填补
airquality$ Solar.R[is.na(airquality$ Solar.R)] <- median(airquality$ Solar.R,na.rm = T)
#计算缺失值个数,等于0 则不存在缺失值
sum(is.na(airquality))
#相邻均值填补
airquality <- read.csv(data.csv) #重新读入数据
for (i in 1:length(airquality$ Ozone)) {
airquality$ Ozone[i] <- ifelse(is.na(airquality$ Ozone[i]),
mean(c(airquality$ Ozone[i-1],airquality$ Ozone[i+1]),na.rm=T),
airquality$ Ozone[i])
}

3.2复杂处理填补

(1)K-近邻算法填补

基本思想:对于需要填补的观测值,先利用欧氏距离找到其邻近的K个观测,再将这K个邻近的值进行加权平均进行填补。

原始数据中存在多个缺失值,可以利用DMwR包中的knnImputation()函数进行填补


dat1 <- knnImputation(airquality[,c(1:4)],meth = ‘weighAvg',scale = T)

提取原始数据中的前4列进行填补,meth = 'weighAvg'指使用加权平均的方法进行填补,scale = T指在选取邻近值时,先对数据进行标准化。


aggr(dat1) #查看缺失值分布

(2)随机森林填补缺失值

接下来介绍一个新的填补方法–随机森林填补,随机森林是机器学习中一种常见的方法,以决策树为基分类的器的集成学习模型。

missForest包中missForest()函数可实现随机森林填补,ntree代表模型中的树的棵数,一般情况下,对于高维数据可选择较小的值(如100),以达到快速插补的效果;对于大数据集进行填补时,可能耗时比较多。


library(missForest)
dat2 <- missForest(airquality,ntree = 100)

dat2中包含填补好的数据,可利用dat2$ximp查看填补后的值,


head(dat2$ximp)
aggr(dat2$ximp)

同时,OOBerror表示袋外填补缺失的误差估计。


dat2$OOBerror

4.多重插补法

多重插补法是在一个缺失的数据集中生成一个完整的数据集,并利用蒙特卡洛的方法进行填补的一种重复模拟的方法。

包mice中的mice()函数可实现对缺失数据的多重插补,原数据集中Ozone和Solar.R变量存在缺失,采用‘rf'法插补。


dat3 <- mice(airquality,m=5,method = ‘rf')

其中,m为生成完整数据集的个数,默认为5. method为插补参数的方法,‘norm.predict'、‘pmm'、‘rf'、‘norm'依次为回归预测法、平均值插补法、随机森林法和高斯线性回归法。


summary(dat3)

通过以下代码可查看填补的值


dat3$ imp$Solar.R

最后选择某一列(如1,2,3)填充到缺失数据集中即可形成完整的数据集.

以上为个人经验,希望能给大家一个参考,也希望大家多多支持编程网。如有错误或未考虑完全的地方,望不吝赐教。

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯