文件名称:sam.pytorch:锐度感知最小化的PyTorch实现可有效提高泛化能力
文件大小:4KB
文件格式:ZIP
更新时间:2024-05-25 04:39:36
sam optimizer pytorch Python
山姆·火炬 锐度感知最小化的PyTorch实施,以有效地改善泛化(Foret + 2020),。 要求 的Python> = 3.8 PyTorch> = 1.7.1 要运行该示例,您还需要 homura通过pip install -U homura-core==2020.12.0 chika通过pip install -U chika 例子 python cifar10.py [--optim.name {sam,sgd}] [--model {renst20, wrn28_2}] [--optim.rho 0.05] 结果:测试准确性(CIFAR-10) 模型 SAM 新元 ResNet-20 93.5 93.2 WRN28-2 95.8 95.4 ResNeXT29 96.4 95.8 每次更新,SAM需要两次向前通过,因此使用SAM进行训练比使用SGD进
【文件预览】:
sam.pytorch-main
----LICENSE(1KB)
----README.md(2KB)
----cifar10.py(3KB)
----sam.py(2KB)