有没有一种方法可以让我获得cuda上下文内存使用情况,而不必使用只报告设备全局信息的cudaMemGetInfo?或者至少是一种获取当前应用程序占用了多少内存的方法?
这似乎是不可能的[否]。然而,检索每个进程的内存使用情况仍然是一个不错的选择。正如Robert所指出的,可以使用NVML,特别是通过使用nvmlDeviceGetComputeRunningProcesses
函数来检索每个进程的内存使用情况。