mindformers.pet.pet_config.PetConfig
- class mindformers.pet.pet_config.PetConfig(pet_type: str = None, **kwargs)[源代码]
低参微调(Pet)算法的配置基类。
- 参数:
pet_type (str, 可选) - Pet方法类型。默认值:
None
。
- 返回:
PetConfig实例。
样例:
>>> from mindformers.pet.pet_config import LoraConfig >>> config = LoraConfig(target_modules='.*wq|.*wk|.*wv|.*wo') >>> print(config) {'pet_type': 'lora', 'lora_rank': 8, 'lora_alpha': 16, 'lora_dropout': 0.01, 'lora_a_init': 'normal', 'lora_b_init' : 'zero', 'param_init_type': mindspore.float16, 'compute_dtype': mindspore.float16, 'target_modules': '.*wq|.*wk|.*wv|.*wo', 'exclude_layers': None , 'freeze_include': None, 'freeze_exclude': None}