文件名称：Caffe-AdamW-AdamWR:caffe中AdamW和AdamWR算法的实现
文件大小：347KB
文件格式：ZIP
更新时间：2024-05-20 03:56:34
caffe solver adamw adamwr C++
caffe中AdamW和AdamWR算法的实现 此仓库实现程序caffe代码是参考Fixing Weight Decay Regularization in Adam 的Fixing Weight Decay Regularization in Adam论文。 caffe.proto id从712到... 1.在caffe.proto的消息SolverParameter中添加所需的参数。 修改caffe.proto如下： // If true, adamw solver will restart per cosine decay scheduler optional bool with_restart = 712 [default = false]; // cosine decay, refers to paper of AdamWR optional
【文件预览】：
Caffe-AdamW-AdamWR-master
----.gitignore(270B)
----sgd_solvers.hpp(6KB)
----README.md(5KB)
----image()
--------Adam.png(37KB)
--------SGD_step_wd(5e-4).png(32KB)
--------AdamWR_cos_decay(3000).png(60KB)
--------SGD_step_lr(0.01).png(46KB)
--------Adam_wd(5e-4).png(42KB)
--------SGD_poly_wd(5e-4).png(32KB)
--------AdamWR.png(59KB)
--------Adam_wd(e-4).png(37KB)
----LICENSE(1KB)
----note(2KB)
----adamwr_solver.cpp(7KB)
----caffe.proto(60KB)
----adamwr_solver.cu(1KB)