gpumonitor

gpumonitor 在您执行脚本和训练时，作为 TensorFlow 或 Pytorch Lightning 回调，提供关于GPU使用的统计信息。

安装

可以直接从这个仓库进行安装

pip install gpumonitor

入门指南

选项1：在您的脚本中

monitor = gpumonitor.GPUStatMonitor(delay=1)

# Your instructions here
# [...]

monitor.stop()
monitor.display_average_stats_per_gpu()

它跟踪GPU统计信息的平均值。要重置平均值并从头开始，您还可以重置监控器

monitor = gpumonitor.GPUStatMonitor(delay=1)

# Your instructions here
# [...]

monitor.display_average_stats_per_gpu()
monitor.reset()

# Some other instructions
# [...]

monitor.display_average_stats_per_gpu()

选项2：回调

将以下回调添加到您的训练循环中

对于 TensorFlow ，

from gpumonitor.callbacks.tf import TFGpuMonitorCallback

model.fit(x, y, callbacks=[TFGpuMonitorCallback(delay=0.5)])

对于 PyTorch Lightning ，

from gpumonitor.callbacks.lightning import PyTorchGpuMonitorCallback

trainer = pl.Trainer(callbacks=[PyTorchGpuMonitorCallback(delay=0.5)])
trainer.fit(model)

显示格式

您可以根据 gpustat 选项自定义显示格式。例如，显示功耗、风扇速度等。要了解您可以更改哪些选项，请参阅

• TensorFlow回调示例
• gpustat print_to() 文档字符串

来源

• 基于 GPUStat
• 来自 gputil 的独立线程循环