文件名称：hydra:标题为“ HYDRA”的论文的压缩网络的代码和检查点
文件大小：595KB
文件格式：ZIP
更新时间：2024-06-14 03:02:49
Python
HYDRA：对抗性强健的神经网络修剪（NeurIPS 2020） 带有代码的存储库，用于在重现压缩网络的结果和检查点。 该存储库支持所有四个强大的训练目标：迭代对抗训练，随机平滑，MixTrain和CROWN-IBP。 以下是关键结果的摘要，其中我们表明，在修剪策略中考虑稳健的培训目标可能会导致修剪后的网络的健壮性大幅度提高。 特别地，通过使鲁棒的训练目标控制到修剪的连接而产生了改进。 在几乎所有情况下，它都倾向于修剪某些高幅度的权重，同时保留其他较小幅度的权重，这与基于既定的最小加权幅度（LWM）的修剪策略是正交的。 更新 2020年4月30日： ，这是基准测试的通用网络。 坚固性| 90％的人建议的技术修剪| 良性测试准确度= 88.97％，PGD-50测试准确度= 62.24％。 2020年5月23日：我们的WRN-28-10网络具有90％的连接修剪功能，在排名第二。 入门
【文件预览】：
hydra-master
----args.py(9KB)
----.gitignore(2KB)
----images()
--------comparison_plot.png(209KB)
--------results_table.png(147KB)
--------weight_histogram.png(223KB)
----requirements.txt(46B)
----data()
--------__init__.py(158B)
--------cifar.py(4KB)
--------mnist.py(0B)
--------svhn.py(2KB)
--------imagenet.py(2KB)
----get_compact_net_crown-ibp.sh(2KB)
----models()
--------resnet_cifar.py(5KB)
--------__init__.py(1KB)
--------wrn_cifar.py(6KB)
--------basic.py(9KB)
--------layers.py(3KB)
--------vgg_cifar.py(7KB)
--------resnet.py(8KB)
----eval_smoothing.py(5KB)
----locuslab_smoothing()
--------analyze.py(12KB)
----train_imagenet.py(9KB)
----utils()
--------semisup.py(1KB)
--------adv.py(7KB)
--------eval.py(16KB)
--------smoothing.py(7KB)
--------misc.py(974B)
--------logging.py(4KB)
--------schedules.py(2KB)
--------model.py(8KB)
----trainer()
--------crown-ibp.py(6KB)
--------adv.py(3KB)
--------__init__.py(0B)
--------base.py(3KB)
--------freeadv.py(3KB)
--------mixtrain.py(4KB)
--------smooth.py(4KB)
----README.md(12KB)
----configs()
--------configs_imagenet.yml(913B)
--------configs.yml(867B)
--------configs_mixtrain.yml(928B)
--------configs_crown-ibp.yml(948B)
----symbolic_interval()
--------__init__.py(96B)
--------symbolic_network.py(32KB)
--------interval.py(25KB)
----get_compact_net_rand_smoothing.sh(2KB)
----crown()
--------converter.py(1KB)
--------eps_scheduler.py(3KB)
--------bound_layers.py(30KB)
----get_compact_net_adv_train.sh(2KB)
----get_compact_net_mixtrain.sh(3KB)
----train.py(10KB)