比较与torch.distributed.gather的差异

torch.distributed.gather

torch.distributed.gather(
    tensor,
    gather_list=None,
    dst=0,
    group=None,
    async_op=False
)

mindspore.communication.comm_func.gather_into_tensor(tensor, dst=0, group=GlobalComm.WORLD_COMM_GROUP)

PyTorch：该接口输入当前进程的tensor、聚合列表gather_list、目标的进程编号dst、通信域group及异步操作标志async_op，进行gather操作后结果保存在tensor中。当async_op为True时，返回异步work句柄，否则返回为空。

MindSpore：该接口输入待聚合的tensor，目标进程编号dst，通信域group，输出tensor，第一维等于输入数据第0维求和，其余维度与输入tensor一致。当前该接口不支持async_op的配置。

分类	子类	PyTorch	MindSpore	差异
参数	参数1	tensor	tensor	PyTorch：进行gather操作后的输出，MindSpore：待聚合的tensor
	参数2	gather_list	-	PyTorch：待聚合tensor列表，MindSpore无此参数
	参数3	dst	dst	-
	参数4	group	group	-
	参数5	async_op	-	PyTorch：异步操作标志，MindSpore无此参数