mindformers.pet.pet_config.PetConfig

查看源文件
class mindformers.pet.pet_config.PetConfig(pet_type: str = None, **kwargs)[源代码]

低参微调(Pet)算法的配置基类。

参数:
  • pet_type (str, 可选) - Pet方法类型。默认值: None

返回:

PetConfig实例。

样例:

>>> from mindformers.pet.pet_config import LoraConfig
>>> config = LoraConfig(target_modules='.*wq|.*wk|.*wv|.*wo')
>>> print(config)
{'pet_type': 'lora', 'lora_rank': 8, 'lora_alpha': 16,
'lora_dropout': 0.01, 'lora_a_init': 'normal', 'lora_b_init'
: 'zero', 'param_init_type': mindspore.float16, 'compute_dtype':
mindspore.float16, 'target_modules': '.*wq|.*wk|.*wv|.*wo', 'exclude_layers': None
, 'freeze_include': None, 'freeze_exclude': None}