功能相关
Q: 如何生成模型切分策略文件?
A: 模型切分策略文件记录了模型权重在分布式场景下的切分策略,一般在离线权重切分时使用。在网络yaml
文件中配置only_save_strategy: True
,然后正常启动分布式任务,便可在output/strategy/
目录下生成分布式策略文件,详细介绍请参阅分布式权重切分与合并教程。
Q: 生成ranktable
文件报错socket.gaierror: [Errno -2] Name or service not known
或者socket.gaierror: [Errno -3] Temporary failure in name resolution
,怎么解决?
A: 从MindFormers r1.2.0
版本开始,集群启动统一使用msrun
方式,ranktable
启动方式已废弃。