mindspore.nn.Tanhshrink

查看源文件
class mindspore.nn.Tanhshrink[源代码]

逐元素计算Tanhshrink激活函数,返回一个新的Tensor。

Tanhshrink函数定义为:

\[tanhshrink(x_i) =x_i- \frac{\exp(x_i) - \exp(-x_i)}{\exp(x_i) + \exp(-x_i)} = x_i-\frac{\exp(2x_i) - 1}{\exp(2x_i) + 1},\]

其中 \(x_i\) 是输入Tensor的元素。

输入:
  • x (Tensor) - 任意维度的Tensor。

输出:

Tensor,其shape与 x 的相同。

异常:
  • TypeError - x 不是一个Tensor。

支持平台:

Ascend GPU CPU

样例:

>>> import mindspore as ms
>>> from mindspore import Tensor, nn
>>> import numpy as np
>>> x = Tensor(np.array([1, 2, 3, 2, 1]), ms.float16)
>>> tanhshrink = nn.Tanhshrink()
>>> output = tanhshrink(x)
>>> print(output)
[0.2383 1.036  2.004  1.036  0.2383]