torch tensor调用detach时出现RuntimeError: CUDA error: an illegal memory access was encountered解决

时间:2025-03-27 13:24:20

代码大致如下:

a = torch.tensor(b) #b是bool类型
c = a.float()
d = torch.tensor([0], dtype=torch.float32, device="cuda")
e = render(c, d) #得到torch([3,1920,1080])
e.detach().cpu().numpy() #报错
  • 1
  • 2
  • 3
  • 4
  • 5

在最后一步,()时报错:
RuntimeError: CUDA error: an illegal memory access was encountered

上网查了一些原因:
pytorch, cuda版本不匹配的,这点确认过没问题。
cuda内存耗尽的,检查了一下发现也没用多少内存啊,这点也排除。

后来发现问题出在没有保证所有变量都是cuda,
可以看到a 是cpu, c 是cpu,d是cuda, 即有的变量是cpu, 有的变量是cuda。
为了保证一致性,只需要把a改为cuda类型即可。

a = torch.tensor(b).cuda() #b是bool类型
  • 1

总结一下,要确保所有涉及的张量都在相同的设备上(GPU 或 CPU)。