如何使用 JCuda 在 CPU 和 GPU 上执行相同的功能

Question

我处理JCuda文档中的代码。目前，它只是在 GPU 上添加矢量。 我应该怎么做才能在CPU(主机(上重用功能add？ 我知道，我必须将__global__更改为__host__ __device__但我不知道如何在我的主函数中调用它。我怀疑我必须使用另一个 nvcc 选项。

我的目标是在 GPU 和 CPU 上运行相同的功能并检查执行时间(我知道如何检查它(。

.cu 文件(使用nvcc -ptx file.cu -o file.ptx编译

(

extern "C"
__global__ void add(int n, float *a, float *b, float *sum)
{
int i = blockIdx.x * blockDim.x + threadIdx.x;
if (i<n)
{
sum[i] = a[i] + b[i];
}
}

主函数片段

public static void main(String[] args) {
cuInit(0);
CUdevice device = new CUdevice();
cuDeviceGet(device, 0);
CUcontext context = new CUcontext();
cuCtxCreate(context, 0, device);
CUmodule module = new CUmodule();
cuModuleLoad(module, "kernels/JCudaVectorAdd.ptx");
CUfunction function = new CUfunction();
cuModuleGetFunction(function, module, "add");
...
Pointer kernelParameters = Pointer.to(
Pointer.to(new int[]{numElements}),
Pointer.to(deviceInputA),
Pointer.to(deviceInputB),
Pointer.to(deviceOutput)
);

Answer 1

你不能也可能永远无法在JCUDA中做到这一点，因为它用于与CUDA交互的API接口。

虽然 CUDA 现在可以将主机函数"启动"到流中，但 JCUDA 目前尚未公开该 API，并且它不会像现在的设备代码那样工作(此限制也适用于 PyCUDA 和其他基于 API 的驱动程序框架(。

您可能需要使用 JNI 或其他方式从库中检索主机函数并以这种方式调用它。