mindspore.communication.comm_func

集合通信函数式接口。

注意,集合通信函数式接口需要先配置好通信环境变量。

针对Ascend/GPU/CPU设备,推荐使用msrun启动方式,无第三方以及配置文件依赖。详见 msrun启动

接口名

概述

支持平台

mindspore.communication.comm_func.all_gather_into_tensor

汇聚指定的通信组中的Tensor,并返回汇聚后的张量。

Ascend GPU

mindspore.communication.comm_func.all_reduce

使用指定方式对通信组内的所有设备的Tensor数据进行规约操作,所有设备都得到相同的结果,返回规约操作后的张量。

Ascend GPU CPU

mindspore.communication.comm_func.all_to_all_single_with_output_shape

根据用户输入的切分大小,把输入tensor切分后,发送到其他的设备上,并从其他设备接收切分块,然后合并到一个输出tensor中。

Ascend

mindspore.communication.comm_func.all_to_all_with_output_shape

根据用户输入的张量列表,将对应的张量发送到远端设备,并从其他设备接收张量,返回一个接收的张量列表。

Ascend

mindspore.communication.comm_func.barrier

同步通信域内的多个进程。

Ascend

mindspore.communication.comm_func.batch_isend_irecv

异步地发送和接收张量。

Ascend

mindspore.communication.comm_func.broadcast

对输入数据整组广播。

Ascend GPU

mindspore.communication.comm_func.gather_into_tensor

对通信组的输入张量进行聚合。

Ascend

mindspore.communication.comm_func.irecv

接收张量到指定线程。

Ascend GPU

mindspore.communication.comm_func.isend

发送张量到指定线程。

Ascend GPU

mindspore.communication.comm_func.P2POp

用于存放关于'isend'、'irecv'相关的信息, 并用于 batch_isend_irecv 接口的入参。

Ascend

mindspore.communication.comm_func.reduce

规约指定通信组中的张量,并将规约结果发送到目标为dst的进程(全局的进程编号)中,返回发送到目标进程的张量。

Ascend

mindspore.communication.comm_func.reduce_scatter_tensor

规约并且分发指定通信组中的张量,返回分发后的张量。

Ascend GPU

mindspore.communication.comm_func.scatter_tensor

对输入张量进行均匀散射到通信域的卡上。

Ascend GPU