1 排查思路
1.1 查看宕机的时间记录和历史登陆还有重启时间
1)查看历史重启
last rebootlast -F |grep crash
2)查看历史异常登录用户
last
1.2 首先查看系统日志
linux下的/var/log/下的log日志,包括message,内核报错日志demsg等等,sa记录,是记录cpu,内存等运行的性能文件,记录着运行时的cpu的运行状态等。
1)利用sa文件查看宕机时CPU情况
sar -u -f /var/log/sa/sa27
2)利用sa文件查看宕机时内存情况
sar -r -f /var/log/sa/sa27
3)查看系统报错日志
tail -200 /var/log/messages |grep "Error"cat /var/log/dmesg|grep "Error"
4)查看系统内核崩溃日志
tail -200 /var/log/messages |grep "crash"
5)查看是否出现OOM,一般会出现kill杀死进程的情况
cat /var/log/messages|grep -i "kill"
6)查看宕机时间段的日志
cat /vat/log/messages|grep "Feb 11 15*"
1.4 查看内存使用
free -m,查看swap的使用和内存剩余情况和缓存。如果swap用了,且available也不够了,具体还要查看参数cat /proc/sys/vm/swappiness,如果设置为0,说明内存不够了。
free -m
1.5 查看io和文件系统使用
观察idle和iowait。磁盘读写时会用到缓存,一般为系统内存的40%,但是中间有一个缓冲时间120秒,将要用完这个缓存时,且会等待120秒,才会写入磁盘,在读写频繁的时候容易造成hang住的情况。
iostat
查看IO的读写速度,如果很慢说明磁盘性能出现瓶颈。
1.6 查看安全日志
安全日志为/var/log/secure,查看history记录,查看是否有人登陆主机并做了恶意动作,例如关机。
1.7 利用kdump和crash工具分析内核
检查服务器开启了kdump服务,并在/var/crash目录找到了当天生成的vmcore文件,使用crash工具分析vmcore文件。
Kdump 用于对内存镜像的转储,它不但可以转储内存镜像到本地硬盘,还可以将内存镜像通过NFS,SSH 等协议转储到不同机器的设备上。
Kdump 分为两个组件:Kexec 和Kdump。
Kexec 是一种内核的快速启动工具,可以使新的内核在正在运行的内核(生产内核)的上下文中启动,而不需要通过耗时的BIOS 检测,方便内核开发人员对内核进行调试。
Kdump 是一种有效的内存转储工具,启用 Kdump 后,生产内核将会保留一部分内存空间,用于在内核崩溃时通过 Kexec 快速启动到新的内核,这个过程不需要重启系统,因此可以转储崩溃的生产内核的内存镜像。
1.8 查看服务日志和监控软件
如果在能找到宕机时进程的占用情况,可以根据占用异常的服务查看其日志。
服务日志一般有数据库和web服务,中间件,框架等。
2 总结
来源地址:https://blog.csdn.net/ygq13572549874/article/details/129174989