PEFT documentation
Penalaan prompt multitugas
Penalaan prompt multitugas
Multitask prompt tuning menguraikan soft prompt dari setiap tugas menjadi satu prompt transferable yang dipelajari, alih-alih menggunakan prompt terpisah untuk setiap tugas. Prompt tunggal yang dipelajari ini dapat disesuaikan untuk setiap tugas melalui pembaruan low rank multiplikatif.
Abstrak dari makalah tersebut adalah:
Prompt tuning, di mana model pretrained dasar diadaptasi ke setiap tugas melalui kondisioning pada vektor prompt yang dipelajari, telah muncul sebagai pendekatan yang menjanjikan untuk mengadaptasi model bahasa besar ke berbagai tugas turunan secara efisien. Namun, metode yang ada umumnya mempelajari vektor prompt lunak dari awal, dan belum jelas bagaimana memanfaatkan pengetahuan lintas tugas yang kaya dengan vektor prompt dalam pengaturan pembelajaran multitugas. Kami mengusulkan multitask prompt tuning (MPT), yang pertama-tama mempelajari satu prompt yang dapat ditransfer dengan mendistilasi pengetahuan dari beberapa prompt sumber yang spesifik tugas. Kami kemudian mempelajari pembaruan rank rendah multiplikatif pada prompt bersama ini untuk mengadaptasinya secara efisien ke setiap tugas target turunan. Eksperimen ekstensif pada 23 dataset NLP menunjukkan bahwa pendekatan yang kami usulkan melampaui metode state-of-the-art, termasuk baseline full finetuning dalam beberapa kasus, meskipun hanya menyetel 0,035% dari jumlah parameter spesifik tugas.

MPT terdiri dari dua tahap:
- source training - untuk setiap tugas, soft prompt-nya didekomposisi menjadi vektor yang spesifik untuk tugas tersebut. Vektor-vektor yang spesifik untuk tugas ini dikalikan bersama untuk membentuk matriks lain W, dan produk Hadamard digunakan antara W dan matriks prompt bersama P untuk menghasilkan matriks prompt yang spesifik untuk tugas. Prompt yang spesifik untuk tugas ini didistilasi menjadi satu matriks prompt yang dibagikan di antara semua tugas. Prompt ini dilatih dengan pelatihan multitask.
- adaptasi target - untuk mengadaptasi satu prompt untuk tugas target, prompt target diinisialisasi dan diekspresikan sebagai produk Hadamard dari matriks prompt bersama dan matriks prompt ber-rank rendah yang spesifik tugas.

Ikhtisar benchmark
Belum ada benchmark untuk metode ini. Silakan berkontribusi dengan konfigurasi eksperimen, tetapi pastikan untuk terlebih dahulu membuat issue di sini.
API
MultitaskPromptTuningConfig
kelas peft.MultitaskPromptTuningConfig
< source >( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = Falsenum_virtual_tokens: int = Nonetoken_dim: int = Nonenum_transformer_submodules: Optional[int] = Nonenum_attention_heads: Optional[int] = Nonenum_layers: Optional[int] = Nonemodules_to_save: Optional[list[str]] = Noneprompt_tuning_init: peft.tuners.multitask_prompt_tuning.config.MultitaskPromptTuningInit | str = <MultitaskPromptTuningInit.RANDOM: 'RANDOM'>prompt_tuning_init_text: str | None = Nonetokenizer_name_or_path: str | None = Nonetokenizer_kwargs: dict | None = Noneprompt_tuning_init_state_dict_path: str | None = Noneprompt_tuning_init_task: int | None = 0num_ranks: int | None = 1num_tasks: int | None = 1 )
MultitaskPromptEmbedding
kelas peft.tuners.MultitaskPromptEmbedding
< source >( config: MultitaskPromptTuningConfigword_embeddings )