文件名称:Python-torchgpipe是GPipe的一个PyTorch中实现它针对CUDA而不是TPU进行了优化
文件大小:89KB
文件格式:ZIP
更新时间:2022-08-30 00:00:42
Python开发-自然语言处理
torchgpipe是GPipe的一个PyTorch中实现,它针对CUDA而不是TPU进行了优化
【文件预览】:
kakaobrain-torchgpipe-674a1da
----setup.py(2KB)
----.gitignore(2KB)
----torchgpipe_balancing()
--------__init__.py(4KB)
--------blockpartition.py(3KB)
--------utils.py(2KB)
--------py.typed(0B)
----.travis.yml(822B)
----CONTRIBUTING.md(2KB)
----torchgpipe()
--------gpipe.py(17KB)
--------__init__.py(261B)
--------__version__.py(22B)
--------checkpoint.py(6KB)
--------py.typed(0B)
--------partition.py(2KB)
--------microbatch.py(2KB)
--------batchnorm.py(5KB)
----LICENSE(11KB)
----setup.cfg(2KB)
----.github()
--------ISSUE_TEMPLATE()
----README.ko.md(8KB)
----examples()
--------resnet101_performance_benchmark()
--------resnet()
----stubs()
--------torch()
----README.md(8KB)
----tests()
--------conftest.py(181B)
--------test_gpipe.py(15KB)
--------__init__.py(164B)
--------test_microbatch.py(2KB)
--------test_checkpoint.py(2KB)
--------test_balancing.py(3KB)
--------test_deferred_batch_norm.py(5KB)
----NOTICE(3KB)
----docs()
--------Makefile(580B)
--------api.rst(566B)
--------index.rst(2KB)
--------conf.py(3KB)
--------_static()
--------make.bat(787B)
--------guide.rst(13KB)
--------changelog.rst(681B)
--------benchmarks.rst(2KB)
--------img()
--------gpipe.rst(4KB)