mindformers.core.CosineAnnealingLR

class mindformers.core.CosineAnnealingLR(base_lr: float, t_max: int, eta_min: float = 0., **kwargs)[源代码]

该方法在 SGDR: Stochastic Gradient Descent with Warm Restarts 中提出。注意，这里仅实现了SGDR的余弦退火部分，而不包括重启部分。

请参阅论文 SGDR: Stochastic Gradient Descent with Warm Restarts 。

使用余弦退火调度设置每个参数组的学习率，其中 \(\eta_{max}\) 被设为初始学习率， \(T_{cur}\) 表示自上次在SGDR中重启以来的epoch数量：

\[\begin{split}\begin{aligned} \eta_t & = \eta_{min} + \frac{1}{2}(\eta_{max} - \eta_{min})\left(1 + \cos\left(\frac{T_{cur}}{T_{max}}\pi\right)\right), & T_{cur} \neq (2k+1)T_{max}; \\ \eta_{t+1} & = \eta_{t} + \frac{1}{2}(\eta_{max} - \eta_{min}) \left(1 - \cos\left(\frac{1}{T_{max}}\pi\right)\right), & T_{cur} = (2k+1)T_{max}. \end{aligned}\end{split}\]

当 last_epoch=-1 时，初始学习率设置为 lr 。请注意，由于调度器是递归定义的，学习率可以同时通过其他操作符在此调度器之外进行修改。如果学习率仅由此调度器设置，则每一步的学习率变为：

\[\eta_t = \eta_{min} + \frac{1}{2}(\eta_{max} - \eta_{min})\left(1 + \cos\left(\frac{T_{cur}}{T_{max}}\pi\right)\right)\]

参数：

base_lr (float) - 初始学习率。
t_max (int) - 重启周期的最大周期数。
eta_min (float) - 学习率的最小值。默认值： 0 。

输入：

global_step (int) - 全局步数。

输出：

学习率。

样例：

>>> import mindspore as ms
>>> from mindformers.core import CosineAnnealingLR
>>>
>>> ms.set_context(mode=ms.GRAPH_MODE)
>>> base_lr = 0.005
>>> t_max = 10
>>> eta_min = 0.0000001
>>>
>>> cosine_annealing = CosineAnnealingLR(base_lr=base_lr, t_max=t_max, eta_min=eta_min)
>>> print(cosine_annealing(1))
0.0048776437
>>> print(cosine_annealing(15))
0.0025000498