mindformers.core.CosineAnnealingLR

class mindformers.core.CosineAnnealingLR(base_lr: float, t_max: int, eta_min: float = 0., **kwargs)

该方法在 SGDR: Stochastic Gradient Descent with Warm Restarts 中提出。注意，这里仅实现了SGDR的余弦退火部分，而不包括重启部分。

请参阅论文 SGDR: Stochastic Gradient Descent with Warm Restarts 。

使用余弦退火调度设置每个参数组的学习率，其中 ${\eta }_{max}$ 被设为初始学习率， $T_{cur}$ 表示自上次在SGDR中重启以来的epoch数量：

$$\begin{array}{r}\begin{array}{rlr}{\eta }_t& ={\eta }_{min}+\frac{1}{2}({\eta }_{max}-{\eta }_{min})(1+\cos \left(\frac{T_{cur}}{T_{max}}\pi \right)),& T_{cur}\ne (2k+1)T_{max};\\ {\eta }_{t+1}& ={\eta }_t+\frac{1}{2}({\eta }_{max}-{\eta }_{min})(1-\cos \left(\frac{1}{T_{max}}\pi \right)),& T_{cur}=(2k+1)T_{max}.\end{array}\end{array}$$

当 last_epoch=-1 时，初始学习率设置为 lr 。请注意，由于调度器是递归定义的，学习率可以同时通过其他操作符在此调度器之外进行修改。如果学习率仅由此调度器设置，则每一步的学习率变为：

$${\eta }_t={\eta }_{min}+\frac{1}{2}({\eta }_{max}-{\eta }_{min})(1+\cos \left(\frac{T_{cur}}{T_{max}}\pi \right))$$

参数：

• base_lr (float) - 初始学习率。

• t_max (int) - 重启周期的最大周期数。

• eta_min (float, 可选) - 学习率的最小值。默认值： 0. 。

输入：

• global_step (int) - 全局步数。

输出：

学习率。

样例：

>>> import mindspore as ms
>>> from mindformers.core import CosineAnnealingLR
>>>
>>> ms.set_context(mode=ms.GRAPH_MODE)
>>> base_lr = 0.005
>>> t_max = 10
>>> eta_min = 0.0000001
>>>
>>> cosine_annealing = CosineAnnealingLR(base_lr=base_lr, t_max=t_max, eta_min=eta_min)
>>> print(cosine_annealing(1))
0.0048776437
>>> print(cosine_annealing(15))
0.0025000498