mindspore.nn.Tanhshrink

class mindspore.nn.Tanhshrink[源代码]

Tanhshrink激活函数。

按元素计算Tanhshrink函数,返回一个新的Tensor。

Tanhshrink函数定义为:

\[tanhshrink(x_i) =x_i- \frac{\exp(x_i) - \exp(-x_i)}{\exp(x_i) + \exp(-x_i)} = x_i-\frac{\exp(2x_i) - 1}{\exp(2x_i) + 1},\]

其中 \(x_i\) 是输入Tensor的元素。

输入:
  • x (Tensor) - 任意维度的Tensor,数据类型为float16或float32的输入。

输出:

Tensor,数据类型和shape与 x 的相同。

异常:
  • TypeError - x 不是一个Tensor。

  • TypeError - x 的数据类型既不是float16也不是float32。

支持平台:

Ascend GPU CPU

样例:

>>> import mindspore as ms
>>> import mindspore.nn as nn
>>> from mindspore import Tensor
>>> import numpy as np
>>> x = Tensor(np.array([1, 2, 3, 2, 1]), ms.float16)
>>> tanhshrink = nn.Tanhshrink()
>>> output = tanhshrink(x)
>>> print(output)
[0.2383 1.036  2.004  1.036  0.2383]