文件名称：pytorch-memonger:用于深度学习的亚线性内存优化。 https
文件大小：10KB
文件格式：ZIP
更新时间：2024-05-13 15:31:38
Python
pytorch-memonger 这是的重新实现。 您可能还想看看和。 速度/内存比较 型号（批次大小16） 记忆 速度 原始resnet152 5459MiB 2.9258倍/秒 检查点（亚线性） 2455MiB 2.6273圈/秒 如何使用 与TensorFlow和mxnet不同，它们的计算图是静态的，并且在实际计算之前就已知道，而pytorch的原理是按运行定义的，并且在完成转发之前不知道图的详细信息。 此实现仅支持Sequential模型。 通过用nn.Sequential替换nn.Sequential ， memonger.SublinearSequential所需的内存从O(N)减少为O(sqrt(N)) 。 # previous, O(N) memory footprint import torch . nn as nn net1 = nn . Sequenti
【文件预览】：
pytorch-memonger-master
----.gitignore(1KB)
----README.md(2KB)
----memonger()
--------checkpoint.py(8KB)
--------resnet.py(4KB)
--------memonger.py(2KB)
--------__init__.py(41B)
----.github()
--------stale.yml(2KB)
----LICENSE(1KB)
----main.py(724B)