PEFT documentation

Configuración

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Configuración

PeftConfigMixin es la clase de configuración base para almacenar la configuración del adaptador de un PeftModel, y PromptLearningConfig es la clase de configuración base para los métodos de soft prompt (p-tuning, prefix tuning y prompt tuning). Estas clases base contienen métodos para guardar y cargar configuraciones de modelos desde el Hub, especificar el método PEFT a utilizar, el tipo de tarea a realizar y las configuraciones del modelo, como el número de capas y el número de cabezas de atención.

PeftConfigMixin

clase peft.config.PeftConfigMixin

< >

( task_type: Optional[TaskType] = Nonepeft_type: Optional[PeftType] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = None )

Parámetros

  • peft_type (Union[~peft.utils.config.PeftType, str]) — El tipo de método Peft a utilizar.

Esta es la clase de configuración base para los modelos de adaptadores PEFT. Contiene todos los métodos comunes a todos los modelos de adaptadores PEFT. Esta clase hereda de PushToHubMixin, que contiene los métodos para publicar tu modelo en el Hub. El método save_pretrained guardará la configuración de tu modelo de adaptador en un directorio. El método from_pretrained cargará la configuración de tu modelo de adaptador desde un directorio.

check_kwargs

< >

( **kwargs )

Comprueba kwargs antes de inicializar la instancia de config.

Las subclases pueden sobrescribir este método para añadir comprobaciones específicas.

from_json_file

< >

( path_json_file: str**kwargs )

Parámetros

  • path_json_file (str) — La ruta al archivo json.

Carga un archivo de configuración desde un archivo json.

from_peft_type

< >

( **kwargs )

Parámetros

  • kwargs (argumentos de palabra clave de la configuración) — Argumentos de palabra clave que se pasan a la inicialización de la configuración.

Este método carga la configuración de su modelo de adaptador a partir de un conjunto de kwargs.

El tipo de configuración adecuado se determina mediante el argumento peft_type. Si no se proporciona peft_type, se instancia el tipo de clase que realiza la llamada.

from_pretrained

< >

( pretrained_model_name_or_path: strsubfolder: Optional[str] = None**kwargs )

Parámetros

  • pretrained_model_name_or_path (str) — El directorio o el id del repositorio del Hub donde se guarda la configuración.
  • subfolder (str, opcional) — Un subdirectorio opcional bajo pretrained_model_name_or_path.
  • kwargs (argumentos de palabra clave adicionales, opcional) — Argumentos de palabra clave reenviados a huggingface_hub.hf_hub_download (por ejemplo, token, revision, cache_dir). Los argumentos específicos de la configuración de PEFT, como task_type o r, no se pueden pasar como sustituciones. Para cambiar los atributos, establécelos en la configuración devuelta después de cargarla.

Este método carga la configuración de su modelo de adaptador desde un directorio.

save_pretrained

< >

( save_directory: str**kwargs )

Parámetros

  • save_directory (str) — El directorio donde se guardará la configuración.
  • kwargs (argumentos de palabra clave adicionales, opcional) — Argumentos de palabra clave adicionales que se pasan al método push_to_hub.

Este método guarda la configuración de tu modelo de adaptador en un directorio.

to_dict

< >

( )

Devuelve la configuración de tu modelo de adaptador como un diccionario.

PeftConfig

clase peft.PeftConfig

< >

( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = False )

Parámetros

  • peft_type (Union[~peft.utils.config.PeftType, str]) — El tipo de método Peft a utilizar.
  • task_type (Union[~peft.utils.config.TaskType, str]) — El tipo de tarea a realizar.
  • inference_mode (bool, por defecto False) — Si se debe usar el modelo Peft en modo de inferencia.

Esta es la clase de configuración base para almacenar la configuración de un PeftModel.

PromptLearningConfig

clase peft.PromptLearningConfig

< >

( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = Falsenum_virtual_tokens: int = Nonetoken_dim: int = Nonenum_transformer_submodules: Optional[int] = Nonenum_attention_heads: Optional[int] = Nonenum_layers: Optional[int] = Nonemodules_to_save: Optional[list[str]] = None )

Parámetros

  • num_virtual_tokens (int) — El número de tokens virtuales a utilizar.
  • token_dim (int) — La dimensión de la incrustación oculta del modelo transformer base.
  • num_transformer_submodules (int) — El número de submódulos de transformer en el modelo transformer base.
  • num_attention_heads (int) — El número de cabezas de atención en el modelo transformer base.
  • num_layers (int) — El número de capas en el modelo transformer base.

Esta es la clase de configuración base para almacenar la configuración de PrefixTuning, PromptEncoder o PromptTuning.

get_peft_config

peft.get_peft_config

< >

( config_dict: dict[str, Any] )

Parámetros

  • config_dict (Dict[str, Any]) — Diccionario que contiene los parámetros de configuración.

Devuelve un objeto de configuración de Peft a partir de un diccionario.

Update on GitHub