可以在GPU中执行用户定义的函数吗?我试过用电筒库在库达执行。我将举一个我尝试过的例子。
def mymodule1(x):
......
......
......
return y
def mymodule2(x):
......
......
......
return y
def mymodule3(x):
......
......
......
return y
def mymodule4(x):
y=mymodule3(x)
y=mymodule2(y)
y=mymodule1(y)
return y我的要求是在mymodule4中运行GPU.May,我将每个变量赋值给cuda。谢谢
发布于 2022-09-16 15:07:54
将CPU功能转换为GPU的简单示例
x=1000
DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
y=torch.tensor(x,dtype=torch.float)
gpu_out = mymodule1(y).to(DEVICE)
out_cpu=gpu_out.cpu()
out=out_cpu.numpy()
print(out)但是这段代码将在GPU中执行,但是性能比CPU差。将此代码用于多个张量数组。下面是一个例子
dtype = torch.cuda.FloatTensor # Uncomment this to run on GPU
N, D_in, H, D_out = 64, 1000, 100, 10
# Create random input and output data
x = torch.randn(N, D_in).type(dtype)
y = torch.randn(N, D_out).type(dtype)
# Randomly initialize weights
w1 = torch.randn(D_in, H).type(dtype)
w2 = torch.randn(H, D_out).type(dtype)
gpu_out = mymodule1(x,y).to(DEVICE)
out_cpu=gpu_out.cpu()
out=out_cpu.numpy()
print(out)https://stackoverflow.com/questions/73337290
复制相似问题