文件名称：k-fac
文件大小：34KB
文件格式：ZIP
更新时间：2024-04-11 05:52:06
Python
K-FAC_pytorch 和。 （仅支持单GPU培训，需要对多GPU进行修改。） 需求要求 pytorch 0.4.0 torchvision python 3.6.0 tqdm tensorboardX tensorflow 怎么跑 python main.py --dataset cifar10 --optimizer kfac --network vgg16_bn --epoch 100 --milestone 40,80 --learning_rate 0.01 --damping 0.03 --weight_decay 0.003 表现 注意：有关K-FAC的更好的参数，请参考回购。 （下面的参数不够好！尤其是重量衰减太小！） 对于K-FAC和E-KFAC，学习率，重量衰减和阻尼的搜索范围是： （1）学习率= [3e-2、1e-2、3e-3] （2）权重衰减= [1e-2
【文件预览】：
k-fac-master
----cifar10_vgg_ngd.sh(169B)
----.gitignore(1KB)
----mnist_convnet_sgd.sh(132B)
----mnist_bn_sgd.sh(159B)
----README.md(4KB)
----utils()
--------data_utils.py(3KB)
--------network_utils.py(503B)
--------kfac_utils.py(6KB)
----mnist_convnet_kfac.sh(146B)
----mnist_fc_sgd.sh(159B)
----cifar10_resnet_sgd.sh(178B)
----trainer.py(2KB)
----cifar10_resnet_kfac.sh(179B)
----models()
--------mnist()
--------imagenet()
--------cifar()
--------__init__.py(0B)
----main.py(15KB)
----optimizers()
--------ekfac.py(9KB)
--------kfac.py(7KB)
--------__init__.py(244B)
----mnist_bn_ngd.sh(249B)
----mnist_bn_kfac.sh(189B)
----mnist_fc_kfac.sh(189B)
----mnist_convnet_ngd.sh(235B)
----mnist_fc_ngd.sh(257B)
----cifar10_resnet_ngd.sh(349B)