文件名称:deq:[NeurIPS'19]深度均衡模型
文件大小:2.6MB
文件格式:ZIP
更新时间:2024-03-08 13:13:33
Python
深度均衡模型 消息 2020/12:对于那些想从玩具版本的DEQ开始(实现比此回购要简单得多)的人,关于“ Deep Implicit Layers”的NeurIPS 2020教程详细介绍了如何如何建立,训练和使用DEQ模型:。 2020/10:提供DEQ的版本,包括Broyden方法的JAX实现等。 2020/7:创建了一个分支pytorch-1.5来解决PyTorch v> = 1.5的DataParallel问题(有关详细信息,请参见和)。 具体而言,这不是与DEQ相关的问题,而是与DEQ所依赖的某些模块相关的问题(例如,自适应嵌入)。 在PyTorch 1.5中,无法再访问副本上的参数。 目前,您可以使用pytorch-1.5从头开始训练模型,但是在代码更改之后还没有预训练的模型。 要运行预先训练的模型,请仍然使用PyTorch 1.4和该master分支。 该存储库包含深度
【文件预览】:
deq-master
----.gitignore(142B)
----LICENSE(1KB)
----README.md(9KB)
----get_data.sh(1KB)
----DEQModel()
--------run_wt103_deq_transformer.sh(980B)
--------data_utils.py(10KB)
--------models()
--------utils()
--------train_transformer.py(22KB)
--------train_trellisnet.py(15KB)
--------modules()
--------run_wt103_deq_trellisnet.sh(741B)
----presentations()
--------DEQ_slides.pdf(2.04MB)
--------DEQ_poster.pdf(960KB)