比较与torch.distributed.broadcast的差异
torch.distributed.broadcast
torch.distributed.broadcast(
tensor,
src=0,
group=None,
async_op=False
)
更多内容详见torch.distributed.broadcast。
mindspore.communication.comm_func.broadcast
mindspore.communication.comm_func.broadcast(tensor, src=0, group=GlobalComm.WORLD_COMM_GROUP)
差异对比
PyTorch:该接口输入将被广播或用于接收的Tensor
、源进程编号src、通信域group及异步操作标志async_op。若该进程为源进程,则tensor为待广播的Tensor;否则为用于接受数据的Tensor。当async_op=True时,返回异步work句柄,否则返回为空。
MindSpore:该接口输入待广播的tensor,源进程编号src,通信域group,输出tensor,维度与广播的tensor一致。当前该接口不支持async_op的配置。
分类 |
子类 |
PyTorch |
MindSpore |
差异 |
---|---|---|---|---|
参数 |
参数1 |
tensor |
tensor |
PyTorch:目标进程为待广播Tensor,其他进程为广播后的输出,MindSpore:待广播的tensor |
参数2 |
src |
src |
- |
|
参数3 |
group |
group |
- |
|
参数4 |
async_op |
- |
PyTorch:异步操作标志,MindSpore无此参数 |