mindspore.ops.silu

mindspore.ops.silu(x)[源代码]

按输入逐元素计算激活函数SiLU(Sigmoid Linear Unit)。该激活函数定义为:

\[\text{SiLU}(x) = x * \sigma(x),\]

其中,Logistic Sigmoid函数如下:

\[\text{sigma}(x_i) = \frac{1}{1 + \exp(-x_i)},\]

其中,\(x_i\) 是输入x的元素。

更多详情请参考 mindspore.nn.SiLU

支持平台:

Ascend GPU CPU

样例:

>>> import numpy as np
>>> import mindspore
>>> from mindspore import Tensor, ops
>>> x = Tensor(np.array([-1, 2, -3, 2, -1]), mindspore.float16)
>>> output = ops.silu(x)
>>> print(output)
[-0.269  1.762  -0.1423  1.762  -0.269]