文件名称：Learning-Rate-Schedulers-Packege-Tensorflow-PyTorch-Keras
文件大小：303KB
文件格式：ZIP
更新时间：2024-04-27 09:59:46
学习速率调度程序包Tensorflow PyTorch-Keras 学习率计划旨在通过根据预定义的功能/时间表降低lr来更改神经网络训练期间的学习率。 有许多受欢迎的学习率调度程序可供使用， 步进衰减 指数衰减 余弦衰变 K衰变 多项式衰减 一些更高级的学习率调度程序是 伯宁指数衰减 SGDR此SGDR还具有两个变体，1.带暖重启的随机梯度下降2.带预热的随机梯度下降 步进衰减 在某些时期（即drop_epoch ）之后将学习率降低lr_decay 。 实现，超参数和常量 drop_epoch = 3 lr_decay = 0.85 def step_decay ( epoch , initial_lr , lr_decay , drop_epoch ): initial_lrate = initial_lr drop = lr_decay epochs_dr
【文件预览】：
Learning-Rate-Schedulers-Packege-Tensorflow-PyTorch-Keras-main
----LICENSE(11KB)
----README.md(19KB)
----screens()
--------lrw.png(82KB)
--------img1.png(167KB)
--------sgdlr.png(68KB)