pytorch常见的Tensor类型详解

Tensor有不同的数据类型，每种类型分别有对应CPU和GPU版本（HalfTensor除外）。默认的Tensor是FloatTensor，可通过torch.set_default_tensor_type修改默认tensor类型（如果默认类型为GPU tensor，则所有操作都将在GPU上进行）。

Tensor的类型对分析内存占用很有帮助，例如，一个size为(1000,1000,1000)的FloatTensor，它有1000*1000*1000=10^9个元素，每一个元素占用32bit/8=4Byte内存，所以共占用大约4GB内存/显存。HalfTensor是专为GPU版本设计的，同样的元素个数，显存占用只有HalfTensor的一半，所以可以极大缓解GPU显存不足的问题，但是由于HalfTensor所能表示的数值大小和精度有限，所以可能出现溢出等问题。

数据类型	CPU Tensor	GPU Tensor
32 bit 浮点	torch.FloatTensor	torch.cuda.FloatTensor
64 bit 浮点	torch.DoubleTensor	torch.cuda.DoubleTensor
16 bit 半精度浮点	N/A	torch.cuda.HalfTensor
8 bit 无符号整形(0~255)	torch.ByteTensor	torch.cuda.ByteTensor
8 bit 有符号整形(-128~127)	torch.CharTensor	torch.cuda.CharTensor
16 bit 有符号整形	torch.ShortTensor	torch.cuda.ShortTensor
32 bit 有符号整形	torch.IntTensor	torch.cuda.IntTensor
64 bit 有符号整形	torch.LongTensor	torch.cuda LongTensor

各数据类型之间可以互相转换，type(new_type)是通用的做法，同时还有float、long、half等快捷方法。CPU tensor和GPU tensor之间的互换是通过tensor.cuda和tensor.cpu的方法实现。

如：

#设置默认tensor，注意参数是字符串
torch.set_default_tensor_type('torch.IntTensor')

a=torch.Tensor(2,3)
print(a)  #a现在是IntTensor

以上这篇pytorch常见的Tensor类型详解就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持服务器之家。

原文链接：https://blog.csdn.net/weixin_38664232/article/details/94192451