文件名称：sru：与RNN一样快地训练RNN（https：arxiv.orgabs1709.02755）
文件大小：338KB
文件格式：ZIP
更新时间：2024-02-24 09:00:34
nlp deep-learning pytorch recurrent-neural-networks NaturallanguageprocessingPython
关于 SRU是循环单元，其运行速度比cuDNN LSTM快10倍以上，而不会在许多任务上测试准确性。 在GTX 1070上测试的LSTM，conv2d和SRU的平均处理时间 例如，上图显示了32个样本的单个小批量处理时间。 与LSTM相比，SRU的速度提高了10到16倍，并且运行速度与使用conv2d进行的字级卷积一样快（或更快）。 有多个版本，请检查最新版本。 参考： 简单的递归单位可实现高度并行的重复 @inproceedings{lei2018sru, title={Simple Recurrent Units for Highly Parallelizable Recurrence}, author={Tao Lei and Yu Zhang and Sida I. Wang and Hui Dai and Yoav Artzi}, booktitle={Empirical Methods in Natural Language Processing (EMNLP)}, year={2018} } 要求 推荐 > = 1.3.1， 通过pip instal
【文件预览】：
sru-master
----.flake8(158B)
----.github()
--------workflows()
----imgs()
--------classification.png(214KB)
--------speed.png(53KB)
----language_model()
--------train_lm.py(9KB)
--------train_enwik8.py(10KB)
--------README.md(2KB)
----sru()
--------ops.py(9KB)
--------__init__.py(296B)
--------modules.py(29KB)
--------csrc()
--------version.py(22B)
--------cuda_functional.py(5KB)
----.circleci()
--------config.yml(2KB)
----requirements.txt(19B)
----CONTRIBUTING.md(1KB)
----LICENSE(1KB)
----requirements-test.txt(14B)
----DrQA()
--------train.py(14KB)
--------drqa()
--------requirements.txt(47B)
--------download.sh(537B)
--------README.md(2KB)
--------prepro.py(12KB)
----test()
--------test_ts_cpp.py(661B)
--------sru()
--------test_amp.py(2KB)
--------test.sh(665B)
--------regression()
----speech()
--------LSTM_5L.ndl(7KB)
--------BLSTM_5L.ndl(6KB)
--------CNTK_SRU_smbr.config(2KB)
--------run_bi-sru.sh(7KB)
--------CNTK_Bi-SRU_smbr.config(2KB)
--------README.md(604B)
--------Bi-SRU_12L.ndl(7KB)
--------run_swbd.sh(9KB)
--------SRU_12L.ndl(4KB)
--------CNTK_Bi-SRU.config(2KB)
--------make_fbank_pitch.sh(1KB)
--------run_sru.sh(7KB)
--------CNTK_SRU.config(2KB)
----setup.py(2KB)
----README.md(3KB)
----docs()
--------pytorch_installation.md(783B)
----misc()
--------test_backward_with_transpose.py(2KB)
--------compare_cpu_speed_sru_gru.py(2KB)
--------compare_gpu_speed_sru_gru.py(2KB)
--------test_mm.py(2KB)
--------test_sru.py(3KB)
--------test_impl.py(3KB)
--------test_multigpu.py(1KB)
----.gitignore(172B)
----classification()
--------train_classifier.py(6KB)
--------dataloader.py(7KB)
--------modules.py(3KB)
--------README.md(2KB)