mindspore_gs.ptq.AWQConfig

class mindspore_gs.ptq.AWQConfig(duo_scaling=True, smooth_alpha=[i/20 for i in range(20)], weight_clip_ratio=[1- i/20 for i in range(10)])[源代码]

用于配置 AWQ 量化算法的数据类。

参数:
  • duo_scaling (bool,可选) - 表示是否使用激活值和权重计算 scale 。默认值: True

  • smooth_alpha (List[float],可选) - 表示 smooth search 的超参数。默认值: [i/20 for i in range(20)]

  • weight_clip_ratio (List[float],可选) - 表示 clip search 的超参数。默认值: [i/20 for i in range(10)]

异常:
  • TypeError - duo_scaling 输入不是 bool 类型。

  • TypeError - smooth_alpha 输入不是 float 或者 list 类型。

  • TypeError - weight_clip_ratio 输入不是 float 或者 list 类型。

  • ValueError - smooth_alpha 输入的值小于0,或大于1。

  • ValueError - weight_clip_ratio 输入的值小于0,或大于1。

样例:

>>> from mindspore_gs.ptq import AWQConfig
>>> AWQConfig(duo_scaling=True, smooth_alpha=[i/20 for i in range(20)], weight_clip_ratio=[i/20 for i in range(10)])