GPU的存储系统包括 register，shared memory，texture memory， local memory， global memory
| register | shared memory | local memory | global memory | constant memory | texture memory | |
| 主机访问权限 | 否 | 否 | 否 | 读写 | 读写 | 读写 |
| GPU访问权限 | 同线程读写 | 同block读写 | 同线程读写 | 读写 | 只读 | 只读 |
| 速度 | 最快 | 快 | 慢 | 慢 | 快 | 快 |
| 容量 | 很小 | 一般是48K | 小 | 很大 | 小 | 小 |
每个thread 都有自己的一份register 和local memory 的空间。同一个block 中的每个thread 则有共享的一份share memory。此外，所有的thread（包括不同block 的thread）都共享一份global memory、constant memory、和texture memory。不同的grid 则有各自的global memory、constant memory 和texture memory。