TRL documentation

MergeModelCallback

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

MergeModelCallback

类 trl.experimental.merge_model_callback.MergeModelCallback

< >

( merge_config: MergeConfig | None = Nonemerge_at_every_checkpoint: bool = Falsepush_to_hub: bool = False )

参数

  • merge_config (experimental.merge_model_callback.MergeConfig, 可选) — 用于合并过程的配置。如果未提供,则使用默认的 MergeConfig。
  • merge_at_every_checkpoint (bool,可选,默认为 False) — 是否在每次保存检查点时合并模型。
  • push_to_hub (bool,可选,默认为 False) — 是否在合并后将合并后的模型推送到 Hub。

一个 TrainerCallback,用于根据合并配置将策略模型(即正在训练的模型)与另一个模型进行合并。

示例:

>>> from trl.experimental.merge_model_callback import MergeConfig, MergeModelCallback

>>> config = MergeConfig()
>>> merge_callback = MergeModelCallback(config)
>>> trainer = DPOTrainer(..., callbacks=[merge_callback])
Update on GitHub