【文件属性】：
文件名称：pytorch-large-model-support:PyTorch中的大型模型支持
文件大小：207KB
文件格式：ZIP
更新时间：2021-04-14 07:09:22
<征求反馈>
PyTorch LMS用户最近打开了一个问题，要求社区支持以将LMS集成到PyTorch的正式版本中：
这是一个很好的机会，可以收集所有用户的推荐书和成功案例，以证明LMS在公共场所的价值。 请随时在对话中分享您的支持和任何想法。
</要求反馈>
PyTorch大型模型支持
PyTorch大型模型支持（LMS）是 （WML CE）提供的PyTorch的功能，它允许成功训练深度学习模型，否则将耗尽GPU内存并因“内存不足”而中止错误。 LMS通过在不需要张量时临时将张量交换到主机内存来管理GPU内存的超额订购。
深度学习模型的一个或多个元素可能导致GPU内存耗尽。
这些包括：
模型深度和复杂度
基本数据大小（例如，高分辨率图像）
批量大小
传统上，解决此问题的方法是修改模型，直到模型适合GPU内存为止。 但是，这种方法会对准确性产生负面影响，尤其是在通过降低数据保真
【文件预览】：
pytorch-large-model-support-master
----.gitignore(2KB)
----patches()
--------pytorch_v1.4.0_large_model_support.patch(98KB)
--------pytorch_v1.3.1_large_model_support.patch(90KB)
--------pytorch_v1.3.0_large_model_support.patch(90KB)
--------pytorch_v1.2.0_large_model_support.patch(90KB)
--------pytorch_v1.1.0_large_model_support.patch(89KB)
--------pytorch_v1.5.0_large_model_support.patch(103KB)
----CONTRIBUTING.md(257B)
----LICENSE(11KB)
----examples()
--------LICENSE(1KB)
--------ManyModel.py(13KB)
--------README.md(2KB)
--------lmsstats.py(6KB)
----README.md(5KB)
----docs()
--------images()
--------Internals.md(5KB)
----ICLA.txt(6KB)