mindspore.nn.MultiFieldEmbeddingLookup
- class mindspore.nn.MultiFieldEmbeddingLookup(vocab_size, embedding_size, field_size, param_init='normal', target='CPU', slice_mode='batch_slice', feature_num_list=None, max_norm=None, sparse=True, operator='SUM')[源代码]
根据指定的索引和字段ID,返回输入Tensor的切片。此操作支持同时使用multi hot和one hot查找嵌入。
说明
当’target’设置为’CPU’时,此模块将使用P.EmbeddingLookup().set_device(‘CPU’)指定’offset = 0’的查找表。
当’target’设置为’DEVICE’时,此模块将使用P.Gather()指定’axis = 0’的查找表。
具有相同 field_ids 的向量将由’operator’组合,例如’SUM’、’MAX’和’MEAN’。确保填充ID的 input_values 为零,以便忽略它们。如果字段绝对权重之和为零,最终输出将为零。该类仅支持[‘table_row_slice’, ‘batch_slice’, ‘table_column_slice’]。对于Ascend设备上的’MAX’操作,存在 \(batch\_size * (seq\_length + field\_size) < 3500\) 的约束。
- 参数:
vocab_size (int) - 嵌入词典的大小。
embedding_size (int) - 每个嵌入向量的大小。
field_size (int) - 最终输出的字段大小。
param_init (Union[Tensor, str, Initializer, numbers.Number]) - 嵌入Tensor的初始化方法。当指定字符串时,请参见 Initializer 类了解字符串的值。默认值:’normal’。
target (str) - 指定执行操作的’target’。该值必须在[‘DEVICE’, ‘CPU’]中。默认值:’CPU’。
slice_mode (str) - semi_auto_parallel或auto_parallel模式下的切片方式。该值必须通过
nn.EmbeddingLookup
获得。默认值:'batch_slice'
。feature_num_list (tuple) - 字段切片模式下的伴随数组(accompaniment array)。目前该参数的功能还未实现。默认值:None。
max_norm (Union[float, None]) - 最大剪切值。数据类型必须为float16、float32或None。默认值:None。
sparse (bool) - 使用稀疏模式。当’target’设置为’CPU’时,’sparse’必须为true。默认值:True。
operator (str) - 字段特征的池化方法。支持’SUM’、’MEAN’和’MAX’。默认值:’SUM’。
- 输入:
input_indices (Tensor) - 指定输入Tensor元素的索引,其shape为 \((batch\_size, seq\_length)\) 。数据类型为int32、int64。
input_values (Tensor) - 指定 input_indices 元素的权重。将检索出的向量乘以 input_values 。其shape为 \((batch\_size, seq\_length)\) 。类型为float32。
field_ids (Tensor) - 指定 input_indices 元素的字段ID,其shape为 \((batch\_size, seq\_length)\) 。类型为int32。
- 输出:
Tensor,shape为 \((batch\_size, field\_size, embedding\_size)\) 。类型为float32。
- 异常:
TypeError - vocab_size 、 embedding_size 或 field_size 不是int。
TypeError - sparse 不是bool或 feature_num_list 不是tuple。
ValueError - vocab_size 、 embedding_size 或 field_size 小于1。
ValueError - target 既不是’CPU’也不是’DEVICE’。
ValueError - slice_mode 不是’batch_slice’、’field_slice’、’table_row_slice’或’table_column_slice’。
ValueError - sparse 为False, target 为’CPU’。
ValueError - slice_mode 为’field_slice’, feature_num_list 为None。
ValueError - operator 不是’SUM’、’MAX’或’MEAN’。
- 支持平台:
Ascend
GPU
样例:
>>> input_indices = Tensor([[2, 4, 6, 0, 0], [1, 3, 5, 0, 0]], mindspore.int32) >>> input_values = Tensor([[1, 1, 1, 0, 0], [1, 1, 1, 0, 0]], mindspore.float32) >>> field_ids = Tensor([[0, 1, 1, 0, 0], [0, 0, 1, 0, 0]], mindspore.int32) >>> net = nn.MultiFieldEmbeddingLookup(10, 2, field_size=2, operator='SUM', target='DEVICE') >>> out = net(input_indices, input_values, field_ids) >>> print(out.shape) (2, 2, 2)