文件名称：重整器，高效的变压器，在Pytorch中-Python开发
文件大小：69.89MB
文件格式：ZIP
更新时间：2024-06-14 08:07:35
Python Deep Learning
重整器，Pytorch中的高效变压器这是重整器的Pytorch实现。 它已在Pytorch中使用“ Reformer”（高效变压器）进行了验证。这是“ Reformer”的Pytorch实现。 它已通过自动回归任务（enwik8）进行了验证。 它还包括其他功能，可以使整个网络完全受到关注。 32k令牌半精度的81k令牌Install $ pip install Reformer_pytorch用法一个简单的Reformer语言模型＃应该适合我
【文件预览】：
reformer-pytorch-master
----.gitattributes(31B)
----.github()
--------workflows()
----reformer_pytorch()
--------reformer_enc_dec.py(3KB)
--------generative_tools.py(3KB)
--------__init__.py(258B)
--------reformer_pytorch.py(32KB)
--------autopadder.py(2KB)
--------reversible.py(5KB)
--------recorder.py(2KB)
----pretraining()
--------self-supervised.py(15KB)
--------requirements.txt(129B)
--------README.md(280B)
--------self-supervised.ipynb(88KB)
----examples()
--------enwik8_simple()
--------enwik8_deepspeed()
----LICENSE(1KB)
----setup.cfg(61B)
----setup.py(841B)
----README.md(18KB)
----lsh_attention.png(123KB)
----.gitignore(2KB)