马里奥matlab代码-RationalNets:论文“理性神经网络”的代码,NeurIPS2020

时间:2024-06-17 03:39:34
【文件属性】:

文件名称:马里奥matlab代码-RationalNets:论文“理性神经网络”的代码,NeurIPS2020

文件大小:803KB

文件格式:ZIP

更新时间:2024-06-17 03:39:34

系统开源

马里奥matlab代码有理神经网络 我们考虑具有合理激活函数的神经网络。 深度学习架构中非线性激活函数的选择至关重要,并且会严重影响神经网络的性能。 我们根据网络复杂性建立了最佳边界,并证明有理神经网络比深度成倍减小的ReLU网络更有效地逼*滑函数。 正如我们通过数值实验所证明的那样,有理激活函数的灵活性和平滑性使其成为ReLU的有吸引力的替代方案。 有关更多信息,请参阅 NicolasBoullé,Yuji Nakatsukasa和Alex Townsend,arXiv的预印本arXiv:2004.01902(2020)。 依存关系 实验中使用的Python软件包列在文件requirements.txt 。 主要依赖项是TensorFlow(版本1.14)和Keras(版本2.2.4)。 我们将GPU版本的TensorFlow: tensorflow-gpu用于GAN实验。 内容 Python文件RationalLayer.py包含有理激活函数的TensorFlow实现,默认情况下初始化为ReLU函数的类型(3,2)近似。 使用from RationalLayer import R


【文件预览】:
RationalNets-master
----environment.yml(3KB)
----LICENSE(1KB)
----src()
--------initial_rational_coeffs.m(953B)
--------RationalLayer.py(5KB)
--------Approximation()
--------PyTorch implementation()
--------GAN()
--------initial_polynomial_coeffs.m(778B)
----requirements.txt(2KB)
----.gitignore(2KB)
----README.md(3KB)

网友评论