mindspore.mint.distributed.isend
- mindspore.mint.distributed.isend(tensor, dst=0, group=None, tag=0)[源代码]
异步发送张量到指定线程。
说明
当前支持PyNative模式,不支持Graph模式。
- 参数:
tensor (Tensor) - 输入发送Tensor。
dst (int,可选) - 表示发送目标的进程编号。只有目标进程会收到张量。默认值:0。
group (str,可选) - 通信组名称,如果为
None
,Ascend平台表示为"hccl_world_group"
。 默认值:None
。tag (int,可选) - 用于区分发送、接收消息的标签。该消息将被拥有相同 tag 的Receive接收。默认值:0。当前为预留参数。
- 返回:
CommHandle,CommHandle是一个异步工作句柄。
- 异常:
TypeError - tensor 不是Tensor, dst 不是int或 group 不是str。
ValueError - 如果发送线程和目的线程号相同。
- 支持平台:
Ascend
样例:
>>> from mindspore.mint.distributed import init_process_group >>> from mindspore.mint.distributed import isend, irecv, get_rank >>> from mindspore import Tensor >>> import numpy as np >>> # Launch 2 processes. >>> init_process_group() >>> this_rank = get_rank() # Process 0 send the array to Process 1 >>> if this_rank == 0: >>> input_ = Tensor(np.ones([2, 8]).astype(np.float32)) >>> handle = isend(input_, 1) >>> handle.wait() >>> if this_rank == 1: >>> x = Tensor(np.zeros([2, 8]).astype(np.float32)) >>> handle = irecv(x, src=0) >>> handle.wait() >>> print(x) rank 1: [[1. 1. 1. 1. 1. 1. 1. 1.] [1. 1. 1. 1. 1. 1. 1. 1.]]