Release Notes

0.2.0 Release Notes

主要特性和增强

  • [STABLE] SLB(Searching for Low-Bit Weights in Quantized Neural Networks)感知量化算法通过内置温度调节机制来简化算法的应用方式,用户训练脚本中不在需要手动编写温度调节的逻辑,通过算法配置接口即可实现原来的温度调节功能。

Bug修复

  • [STABLE] 解决多卡训练时AllReduce算子的一个bug,从而SLB感知量化算法得以支持多卡训练。

API变更

非兼容性变更

Python API

  • 算法基类CompAlgo新增callbacks接口,返回算法在训练过程中的回调逻辑,为了方便不同算法实现各自的回调逻辑,该算法为变参输入。(!117)

  • SLB算法新增set_epoch_size接口,用于配置当前训练的总epoch数,用于温度调节逻辑的实现。(!117)

  • SLB算法新增set_has_trained_epoch接口,如果训练中使用了预训练的checkpoing,请通过该接口配置当前训练中使用的预训练checkpoint对应的预训练轮数,用于温度调节逻辑的实现。(!117)

  • SLB算法新增set_t_start_val接口,用于配置温度调节机制中温度的初始值,用于温度调节逻辑的实现。(!117)

  • SLB算法新增set_t_start_time接口,用于配置温度调节机制开始生效的时间点,用于温度调节逻辑的实现。(!117)

  • SLB算法新增set_t_end_time接口,用于配置温度调节机制停止生效的时间点,用于温度调节逻辑的实现。(!117)

  • SLB算法新增set_t_factor接口,用于配置温度调节机制中的温度调节因子,用于温度调节逻辑的实现。(!117)

贡献者

感谢以下人员作出的贡献:

ghostnet, liuzhicheng01, fuzhongqian, hangangqiang, cjh9368, yangruoqi713, kevinkunkun.

欢迎以任意形式对项目提供贡献!

MindSpore Golden Stick 0.1.0 Release Notes

MindSpore Golden Stick是华为诺亚团队和华为MindSpore团队联合设计开发的一个模型压缩算法集,提供了一套统一的算法应用接口,让用户能够统一方便地使用例如量化、剪枝等等模型压缩算法,同时提供前端网络修改能力,降低算法接入成本。MindSpore Golden Stick当前版本提供了三个算法。

主要特性和增强

  • [BETA] 提供一个名为SimQAT(Simulated Quantization Aware Training)的感知量化算法,是一种最基本的感知量化算法。

  • [BETA] 提供一个名为SLB(Searching for Low-Bit Weights in Quantized Neural Networks)的感知量化算法,是一种非线性、高精度的感知量化算法,在低比特量化上优势明显。

  • [STABLE] 提供一个名为SCOP(Scientific Control for Reliable Neural Network Pruning)的剪枝算法,是一种高精度的结构化剪枝算法,当前主要应用于CV网络上。

贡献者

感谢以下人员作出的贡献:

ghostnet, liuzhicheng01, fuzhongqian, hangangqiang, cjh9368.

欢迎以任意形式对项目提供贡献!