设计
模型库
API
API映射
迁移指南
语法支持
FAQ
RELEASE NOTES
并行模式。
有五种并行模式,分别是STAND_ALONE、DATA_PARALLEL、HYBRID_PARALLEL、SEMI_AUTO_PARALLEL和AUTO_PARALLEL。默认值:STAND_ALONE。
STAND_ALONE:单卡模式。
DATA_PARALLEL:数据并行模式。
HYBRID_PARALLEL:手动实现数据并行和模型并行。
SEMI_AUTO_PARALLEL:半自动并行模式。
AUTO_PARALLEL:自动并行模式。
MODE_LIST:所有支持的并行模式列表。