文件名称:lookahead:先行优化器的实现
文件大小:106KB
文件格式:ZIP
更新时间:2024-06-15 21:50:10
Python
前瞻优化器 该存储库包含实现在TensorFlow和PyTorch中。 前瞻性提高了学习稳定性,并降低了内部优化器的方差,而计算和存储成本却可以忽略不计。 很容易将其合并到现有的机器学习管道中。 用法 在PyTorch中: optimizer = # {any optimizer} e.g. torch.optim.Adam if args . lookahead : optimizer = Lookahead ( optimizer , la_steps = args . la_steps , la_alpha = args . la_alpha ) 在TensorFlow中: optimizer = # {any optimizer} e.g. tf.train.AdamOptimizer if args . lookahead : optimizer =
【文件预览】:
lookahead-master
----lookahead_pytorch.py(4KB)
----figs()
--------accuracy_surface.png(104KB)
----LICENSE(1KB)
----README.md(2KB)
----lookahead_tensorflow.py(5KB)