文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

Ubuntu释放缓存/内存和显存

2023-08-20 14:43

关注

前言

深度学习训练模型时,总是出现显存和内存爆满的现象,导致训练中断,这里总结几个好用的方法:

  1. 代码添加指令
  2. 手动释放内存/缓存
  3. 自动定时释放内存/缓存
  4. 代码释放显存(torch)

1. 代码添加指令

代码中存在一些临时变量或者缓存,使用del进行删除,del ***是python删除变量的一种方式,可以尽可能减少不必要的临时变量。
只需在运行代码末尾加入:

del ***gc.collect()   #内存回收,释放,代码开头记得import gc

2. 手动释放内存/缓存:

进入终端,写如下任一指令即可:

echo 1 > /proc/sys/vm/drop_cachesecho 2 > /proc/sys/vm/drop_cachesecho 3 > /proc/sys/vm/drop_caches

用free -h检查是否成功清除缓存。


3. 自动定时释放内存/缓存:

注:这个是我比较推荐的,建议在root权限下去做:

在自定义的一个路径下(我的是/home/xzy/)建立一个freex.h文件:

vim freex.sh

在这里插入图片描述
然后写入如下指令(输入i进行编辑),并保存退出(ESC + : + w + q):

sync; echo 1 > /proc/sys/vm/drop_caches sync; echo 2 > /proc/sys/vm/drop_caches sync; echo 3 > /proc/sys/vm/drop_caches swapoff -a && swapon -a

赋权:

chmod 777 freex.sh

设置定时:

crontab -e

但是第一次进入可能会出现这样的情况:

root@shige-System-Product-Name:/home/xzy#  crontab -eno crontab for root - using an empty oneSelect an editor.  To change later, run 'select-editor'.  1. /bin/nano        <---- easiest  2. /usr/bin/vim.basic  3. /usr/bin/vim.tiny  4. /usr/bin/emacs25  5. /bin/edChoose 1-5 [1]: 

选择编辑器,我选的vim.basic,也就是输入2,回车:

Choose 1-5 [1]: 2crontab: installing new crontab

再次进入:

crontab -e

输入以下内容,并保存退出(5分钟自动调用一次):

*/05 * * * * /home/xzy/freex.sh

如图:

在这里插入图片描述

查看状态和启动:

service cron statusservice cron start

注释:
service cron start # 开启服务
service cron stop # 关闭服务
service cron reload # 重新载入配置
service cron restart # 重启服务

在这里插入图片描述

就是有个小疑问,就是图中存在一个:(CRON) info (No MTA installed, discarding output)。
不知道是个啥,不过不影响功能,有知道的可以评论区指导下哈,我搜了一些去除这个问题的博客,感兴趣的可以参考:
博客1
博客2
博客3
Ok!
完成,亲测有效!!!


4. 代码释放显存(torch):

如果显存资源比较紧缺,可以在每个epoch开始时释放下不用的显存资源:

torch.cuda.empty_cache()

来源地址:https://blog.csdn.net/Ayu147258/article/details/129857191

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-服务器
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯