mindspore.nn.TransformerDecoder

class mindspore.nn.TransformerDecoder(decoder_layer, num_layers, norm=None)[源代码]

Transformer的解码器。多层 TransformerDecoderLayer 的堆叠，包括Self Attention层、MultiheadAttention层和FeedForward层。

参数：

decoder_layer (Cell) - mindspore.nn.TransformerDecoderLayer 的实例。
num_layers (int) - 解码器层数。
norm (Cell, 可选) - 自定义LayerNorm层。默认值：None。

输入：

tgt (Tensor) - 目标序列。
memory (Tensor) - TransformerEncoder的最后一层输出序列。
tgt_mask (Tensor, 可选) - 目标序列的掩码矩阵。默认值：None。
memory_mask (Tensor, 可选) - memory序列的掩码矩阵。默认值：None。
tgt_key_padding_mask (Tensor, 可选) - 目标序列Key矩阵的掩码矩阵。默认值：None。
memory_key_padding_mask (Tensor, 可选) - memory序列Key矩阵的掩码矩阵。默认值：None。

输出：

Tensor。

支持平台：

Ascend GPU CPU

样例：

>>> decoder_layer = nn.TransformerDecoderLayer(d_model=512, nhead=8)
>>> transformer_decoder = nn.TransformerDecoder(decoder_layer, num_layers=6)
>>> memory = Tensor(np.random.rand(10, 32, 512), mindspore.float32)
>>> tgt = Tensor(np.random.rand(20, 32, 512), mindspore.float32)
>>> out = transformer_decoder(tgt, memory)
>>> print(out.shape)
(20, 32, 512)