比较与torch.nn.functional.softmax的功能差异
torch.nn.functional.softmax
torch.nn.functional.softmax(
input,
dim=None,
_stacklevel=3,
dtype=None
)
更多内容详见torch.nn.functional.softmax。
mindspore.ops.Softmax
class mindspore.ops.Softmax(
axis=-1,
)(logits)
更多内容详见mindspore.ops.Softmax。
使用方式
PyTorch:支持使用dim
参数和input
输入实现函数,将指定维度元素缩放到[0, 1]之间并且总和为1。
MindSpore:支持使用axis
属性初始化Softmax,将指定维度元素缩放到[0, 1]之间并且总和为1。
代码示例
import mindspore
from mindspore import Tensor
import mindspore.ops as ops
import torch
import numpy as np
# In MindSpore, we can define an instance of this class first, and the default value of the parameter axis is -1.
logits = Tensor(np.array([1, 2, 3, 4, 5]), mindspore.float32)
softmax = ops.Softmax()
output1 = softmax(logits)
print(output1)
# Out:
# [0.01165623 0.03168492 0.08612854 0.23412167 0.6364086 ]
logits = Tensor(np.array([[1, 2, 3, 4, 5], [5, 4, 3, 2, 1]]), mindspore.float32)
softmax = ops.Softmax(axis=0)
output2 = softmax(logits)
print(output2)
# out:
# [[0.01798621 0.11920292 0.5 0.880797 0.98201376], [0.98201376 0.880797 0.5 0.11920292 0.01798621]]
# In torch, the input and dim should be input at the same time to implement the function.
input = torch.tensor(np.array([1.0, 2.0, 3.0, 4.0, 5.0]))
output3 = torch.nn.functional.softmax(input, dim=0)
print(output3)
# Out:
# tensor([0.0117, 0.0317, 0.0861, 0.2341, 0.6364], dtype=torch.float64)