1、GPU驱动的内存常驻模式
1）操作命令:
- 确保你具有root或sudo权限，以执行下面的命令。
- 打开终端或命令行界面。
- 运行以下命令来设置GPU驱动的内存常驻模式：
nvidia-smi -pm 1这会将GPU驱动程序设置为内存常驻模式。
4. 验证设置是否成功。运行以下命令：
nvidia-smi这会显示GPU的状态信息。在输出中，你应该看到"Persistence Mode"（持久模式）的值为"Enabled"（已启用）。
请注意，上述命令是基于NVIDIA的官方驱动程序。如果你使用的是第三方驱动程序或不同版本的驱动程序，命令可能会有所不同。在执行上述命令之前，建议参考NVIDIA驱动程序的文档或帮助资源，以获取适用于你的驱动程序版本的正确命令和选项。
此外，需要注意的是，启用GPU驱动的内存常驻模式会持续占用系统资源，并增加能耗。因此，在使用完毕后，如果不再需要常驻模式，建议将其禁用，以节省资源和能源。可以使用以下命令将GPU驱动程序设置为非常驻模式：
nvidia-smi -pm 0这将禁用GPU驱动的内存常驻模式。
2）优缺点分析：
优点：
快速应对任务：开启内存常驻模式后，GPU驱动程序将一直保持加载状态，可以立即响应新的计算任务，而无需重新加载驱动程序。这可以减少启动和加载时间，提高任务响应速度。
减少资源开销：在内存常驻模式下，GPU驱动程序会保持已分配的显存和上下文状态，避免了重复分配和释放显存的开销。这对于频繁执行计算任务或长时间运行的应用程序来说特别有用，可以减少资源的浪费。
缺点：
能耗增加：开启内存常驻模式会使GPU驱动程序一直保持加载状态，这会导致显卡持续消耗电力，即使在空闲或轻负载时也会增加能耗。
系统稳定性风险：长时间运行的应用程序可能会导致GPU驱动程序处于加载状态，并持续占用系统资源，这可能增加系统的稳定性风险。如果驱动程序发生问题或崩溃，可能需要重新启动系统才能恢复正常。
综上所述，开启GPU驱动的内存常驻模式可以提高任务响应速度和资源利用效率，但需要权衡能耗和系统稳定性风险。是否打开内存常驻模式应根据具体的使用场景和需求来决定。
2、单独重启GPU显卡驱动
在CentOS系统下，你可以尝试单独重启GPU显卡驱动而无需重启整个服务器。可以通过以下步骤来实现：
- 确保你具有root或sudo权限，以执行下面的命令。
- 停止使用GPU的应用程序或服务，以确保没有正在运行的进程使用GPU。
- 卸载当前的NVIDIA驱动程序。你可以使用以下命令：
sudo nvidia-uninstall这将卸载当前安装的NVIDIA驱动程序。
4. 重新加载NVIDIA内核模块。使用以下命令：
sudo modprobe nvidia这将重新加载NVIDIA内核模块，实际上相当于重启GPU驱动。
5. 检查驱动程序是否成功加载。使用以下命令：
lsmod | grep nvidia如果输出中显示了nvidia相关的模块，则表示驱动程序已成功加载。
请注意，尽管你不需要重新启动整个服务器，但这种方法并不是适用于所有情况的解决方案。某些情况下，可能仍然需要重启服务器来确保驱动程序的正确加载和配置。此外，如果你进行了新的驱动程序安装或系统更新，重启服务器可能是更安全和可靠的做法。
来源地址：https://blog.csdn.net/anonymous_me/article/details/130720154
