文档反馈

问题文档片段

问题文档片段包含公式时,显示为空格。

提交类型
issue

有点复杂...

找人问问吧。

请选择提交类型

问题类型
规范和低错类

- 规范和低错类:

- 错别字或拼写错误,标点符号使用错误、公式错误或显示异常。

- 链接错误、空单元格、格式错误。

- 英文中包含中文字符。

- 界面和描述不一致,但不影响操作。

- 表述不通顺,但不影响理解。

- 版本号不匹配:如软件包名称、界面版本号。

易用性

- 易用性:

- 关键步骤错误或缺失,无法指导用户完成任务。

- 缺少主要功能描述、关键词解释、必要前提条件、注意事项等。

- 描述内容存在歧义指代不明、上下文矛盾。

- 逻辑不清晰,该分类、分项、分步骤的没有给出。

正确性

- 正确性:

- 技术原理、功能、支持平台、参数类型、异常报错等描述和软件实现不一致。

- 原理图、架构图等存在错误。

- 命令、命令参数等错误。

- 代码片段错误。

- 命令无法完成对应功能。

- 界面错误,无法指导操作。

- 代码样例运行报错、运行结果不符。

风险提示

- 风险提示:

- 对重要数据或系统存在风险的操作,缺少安全提示。

内容合规

- 内容合规:

- 违反法律法规,涉及政治、领土主权等敏感词。

- 内容侵权。

问题描述

请勾选同意隐私声明

mindspore.ops.ApplyAddSign

class mindspore.ops.ApplyAddSign[源代码]

根据AddSign算法更新相关参数。

mt+1=βmt+(1β)gupdate=(α+sign_decaysign(g)sign(m))gvar=varlrt+1update

t 代表更新步长,而 m 代表第一个动量矩阵, mtmt+1 的最后时刻, lr 代表学习率 lrg 代表 gradα 代表 alphaβ 代表 beta

所有输入数据在Ascend上支持的类型为:float16和float32,CPU和GPU上支持的类型为:float16、float32和float64。

varaccumgrad 的输入, sign_decaybeta 的输入都遵循隐式类型转换规则,使数据类型一致。 如果它们具有不同的数据类型,则低精度数据类型将转换为相对最高精度的数据类型。

输入:
  • var (Parameter) - 要更新的权重。任意维度,其shape为 (N,) ,其中 为任意数量的额外维度。

  • m (Parameter) - 要更新的权重,shape与 var 相同。

  • lr (Union[Number, Tensor]) - 学习率,必须是Scalar。

  • sign_decay (Union[Number, Tensor]) - 必须是Scalar。

  • alpha (Union[Number, Tensor]) - 必须是Scalar。

  • beta (Union[Number, Tensor]) - 指数衰减率,必须是Scalar。

  • grad (Tensor) - 梯度,shape与 var 相同。

输出:

2个Tensor组成的tuple,更新后的数据。

  • var (Tensor) - shape和数据类型与 var 相同。

  • m (Tensor) - shape和数据类型与 m 相同。

异常:
  • TypeError - 如果 varlralpha 的数据类型既不是float16也不是float32或者float64。

  • TypeError - 如果 sign_decaybeta 的数据类型都不是float16、float32或者float64。

  • TypeError - 如果 lralphasign_decay 既不是数值型,也不是Tensor。

  • TypeError - 如果 grad 不是Tensor。

  • TypeError - 如果不支持参数的 varaccumgrad 数据类型转换。

支持平台:

Ascend GPU CPU

样例:

>>> import numpy as np
>>> from mindspore import Tensor, nn, ops, Parameter
>>> class Net(nn.Cell):
...     def __init__(self):
...         super(Net, self).__init__()
...         self.apply_add_sign = ops.ApplyAddSign()
...         self.var = Parameter(Tensor(np.array([[0.6, 0.4],
...                                               [0.1, 0.5]]).astype(np.float32)), name="var")
...         self.m = Parameter(Tensor(np.array([[0.6, 0.5],
...                                             [0.2, 0.6]]).astype(np.float32)), name="m")
...         self.lr = 0.001
...         self.alpha = 1.0
...         self.sign_decay = 0.99
...         self.beta = 0.9
...     def construct(self, grad):
...         out = self.apply_add_sign(self.var, self.m, self.lr, self.alpha, self.sign_decay, self.beta, grad)
...         return out
...
>>> net = Net()
>>> grad = Tensor(np.array([[0.3, 0.7], [0.1, 0.8]]).astype(np.float32))
>>> output = net(grad)
>>> print(output)
(Tensor(shape=[2, 2], dtype=Float32, value=
[[ 5.99403024e-01,  3.98607016e-01],
 [ 9.98010039e-02,  4.98407990e-01]]), Tensor(shape=[2, 2], dtype=Float32, value=
[[ 5.70000052e-01,  5.19999981e-01],
 [ 1.89999998e-01,  6.20000064e-01]]))