文档反馈

问题文档片段

问题文档片段包含公式时，显示为空格。

提交类型

issue

有点复杂...

找人问问吧。

PR

小问题，全程线上修改...

一键搞定！

请选择提交类型

问题类型

规范和低错类

- 规范和低错类：

- 错别字或拼写错误，标点符号使用错误、公式错误或显示异常。

- 链接错误、空单元格、格式错误。

- 英文中包含中文字符。

- 界面和描述不一致，但不影响操作。

- 表述不通顺，但不影响理解。

- 版本号不匹配：如软件包名称、界面版本号。

易用性

- 易用性：

- 关键步骤错误或缺失，无法指导用户完成任务。

- 缺少主要功能描述、关键词解释、必要前提条件、注意事项等。

- 描述内容存在歧义指代不明、上下文矛盾。

- 逻辑不清晰，该分类、分项、分步骤的没有给出。

正确性

- 正确性：

- 技术原理、功能、支持平台、参数类型、异常报错等描述和软件实现不一致。

- 原理图、架构图等存在错误。

- 命令、命令参数等错误。

- 代码片段错误。

- 命令无法完成对应功能。

- 界面错误，无法指导操作。

- 代码样例运行报错、运行结果不符。

风险提示

- 风险提示：

- 对重要数据或系统存在风险的操作，缺少安全提示。

内容合规

- 内容合规：

- 违反法律法规，涉及政治、领土主权等敏感词。

- 内容侵权。

请选择问题类型

问题描述

点击输入详细问题描述，以帮助我们快速定位问题。

提交

文档反馈

mindformers.core.CosineWithRestartsAndWarmUpLR

class mindformers.core.CosineWithRestartsAndWarmUpLR(learning_rate: float, warmup_steps: int = None, total_steps: int = None, num_cycles: float = 1., lr_end: float = 0., warmup_lr_init: float = 0., warmup_ratio: float = None, decay_steps: int = None, **kwargs)

余弦重启与预热学习率。

使用余弦重启与预热调度设置每个参数组的学习率，其中 ${\eta }_{max}$ 被设为初始学习率， $T_{cur}$ 表示自上次重启以来的步数：

$$\begin{array}{rlrlr}{\eta }_t& ={\eta }_{\text{min}}+\frac{1}{2}({\eta }_{\text{max}}-{\eta }_{\text{min}})(1+\cos \left(\frac{T_{cur}}{T_i}\pi \right)),& T_{cur}\ne (2k+1)T_i;{\eta }_{t+1}& ={\eta }_{\text{max}},& T_{cur}=(2k+1)T_i.\end{array}$$

当 last_epoch=-1 时，初始学习率设置为 lr 。在重启阶段，学习率从最大值重新开始，最终逐渐减小到设定的最小值。这种策略有助于在训练过程中避免陷入局部最优解并加速收敛。

该方法在 SGDR: Stochastic Gradient Descent with Warm Restarts 中提出，扩展了余弦退火的概念以实现多次重启。

参数：

• learning_rate (float) - 学习率的初始值。

• warmup_steps (int) - 预热步骤数。默认值： None 。

• total_steps (int) - 总步数。默认值： None 。

• num_cycles (float) - 余弦调度中的波形数量（默认为仅遵循半个余弦从最大值下降到 0）。默认值： 1. 。

• lr_end (float) - 学习率的最终值。默认值： 0. 。

• warmup_lr_init (float) - 预热步骤中的初始学习率。默认值： 0. 。

• warmup_ratio (float) - 预热所用的总训练步骤的比例。默认值： None 。

• decay_steps (int) - 衰减步骤的数量。默认值： None 。

输入：

• global_step (int) - 全局步数。

输出：

学习率。

样例：

>>> import mindspore as ms
>>> from mindformers.core import CosineWithRestartsAndWarmUpLR
>>>
>>> ms.set_context(mode=ms.GRAPH_MODE)
>>> total_steps = 20
>>> warmup_steps = 10
>>> learning_rate = 0.005
>>>
>>> cosine_warmup_restart = CosineWithRestartsAndWarmUpLR(learning_rate=learning_rate,
...                                                       warmup_steps=warmup_steps,
...                                                       total_steps=total_steps)
>>> print(cosine_warmup_restart(1))
0.0005
>>> print(cosine_warmup_restart(15))
0.0024999997