# Handlers de Kwargs

Os seguintes objetos podem ser passados para o [Accelerator](/docs/accelerate/main/pt/package_reference/accelerator#accelerate.Accelerator) principal para personalizar a forma como alguns objetos do PyTorch relacionados ao treinamento distribuído ou à precisão mista são criados.

## AutocastKwargs[[accelerate.AutocastKwargs]]

#### accelerate.AutocastKwargs[[accelerate.AutocastKwargs]]

```python
accelerate.AutocastKwargs(enabled: bool = True, cache_enabled: bool | None = None)
```

[Fonte](https://github.com/huggingface/accelerate/blob/main/src/accelerate/utils/dataclasses.py#L104)

Use este objeto em seu [Accelerator](/docs/accelerate/main/pt/package_reference/accelerator#accelerate.Accelerator) para personalizar o comportamento de `torch.autocast`. Consulte a documentação deste [context manager](https://pytorch.org/docs/stable/amp.html#torch.autocast) para mais informações sobre cada argumento.

Exemplo:

```python
from accelerate import Accelerator
from accelerate.utils import AutocastKwargs

kwargs = AutocastKwargs(cache_enabled=True)
accelerator = Accelerator(kwargs_handlers=[kwargs])
```

## DistributedDataParallelKwargs[[accelerate.DistributedDataParallelKwargs]]

#### accelerate.DistributedDataParallelKwargs[[accelerate.DistributedDataParallelKwargs]]

```python
accelerate.DistributedDataParallelKwargs(dim: int = 0, broadcast_buffers: bool = True, bucket_cap_mb: int = 25, find_unused_parameters: bool = False, check_reduction: bool = False, gradient_as_bucket_view: bool = False, static_graph: bool = False, comm_hook: DDPCommunicationHookType = <DDPCommunicationHookType.NO: 'no'>, comm_wrapper: typing.Literal[<DDPCommunicationHookType.NO: 'no'>, <DDPCommunicationHookType.FP16: 'fp16'>, <DDPCommunicationHookType.BF16: 'bf16'>] = <DDPCommunicationHookType.NO: 'no'>, comm_state_option: dict = <factory>)
```

[Fonte](https://github.com/huggingface/accelerate/blob/main/src/accelerate/utils/dataclasses.py#L146)

Use este objeto em seu [Accelerator](/docs/accelerate/main/pt/package_reference/accelerator#accelerate.Accelerator) para personalizar como seu modelo é envolvido em um `torch.nn.parallel.DistributedDataParallel`. Consulte a documentação deste [wrapper](https://pytorch.org/docs/stable/generated/torch.nn.parallel.DistributedDataParallel.html) para mais informações sobre cada argumento.

Exemplo:

```python
from accelerate import Accelerator
from accelerate.utils import DistributedDataParallelKwargs

kwargs = DistributedDataParallelKwargs(find_unused_parameters=True)
accelerator = Accelerator(kwargs_handlers=[kwargs])
```

## ProfileKwargs[[accelerate.ProfileKwargs]]

#### accelerate.ProfileKwargs[[accelerate.ProfileKwargs]]

```python
accelerate.ProfileKwargs(activities: list[typing.Literal['cpu', 'xpu', 'mtia', 'cuda', 'hpu']] | None = None, schedule_option: dict[str, int] | None = None, on_trace_ready: typing.Callable | None = None, record_shapes: bool = False, profile_memory: bool = False, with_stack: bool = False, with_flops: bool = False, with_modules: bool = False, output_trace_dir: str | None = None)
```

[Fonte](https://github.com/huggingface/accelerate/blob/main/src/accelerate/utils/dataclasses.py#L416)

**Parâmetros:**

activities (`List[str]`, *opcional*, padrão `None`) : A lista de grupos de atividades a serem usados no profiling. Deve ser um dos valores `"cpu"`, `"xpu"`, `"mtia"`, "hpu" ou `"cuda"`.

schedule_option (`Dict[str, int]`, *opcional*, padrão `None`) : A opção de agendamento a ser usada para o profiler. As chaves disponíveis são `wait`, `warmup`, `active`, `repeat` e `skip_first`. O profiler ignorará os primeiros `skip_first` passos, em seguida aguardará por `wait` passos, depois fará o warmup nos próximos `warmup` passos, depois fará o registro ativo nos próximos `active` passos e, em seguida, repetirá o ciclo começando com `wait` passos. O número opcional de ciclos é especificado com o parâmetro `repeat`; o valor zero significa que os ciclos continuarão até que o profiling seja finalizado.

on_trace_ready (`Callable`, *opcional*, padrão `None`) : Callable que é chamado a cada etapa quando o schedule retorna `ProfilerAction.RECORD_AND_SAVE` durante o profiling.

record_shapes (`bool`, *opcional*, padrão `False`) : Salva informações sobre as formas de entrada dos operadores.

profile_memory (`bool`, *opcional*, padrão `False`) : Rastrear a alocação/liberação de memória de tensores

with_stack (`bool`, *opcional*, padrão `False`) : Registra informações de origem (arquivo e número da linha) para as operações.

with_flops (`bool`, *opcional*, padrão `False`) : Use a fórmula para estimar os FLOPS de operadores específicos

with_modules (`bool`, *opcional*, padrão `False`) : Registra a hierarquia de módulos (incluindo nomes de funções) correspondente à pilha de chamadas do operador.

output_trace_dir (`str`, *opcional*, padrão `None`) : Exporta o trace coletado no formato JSON do Chrome. O Chrome usa a visualização 'chrome://tracing' para arquivos json. O padrão é None, o que significa que o profiling não armazena arquivos json.

Use este objeto em seu [Accelerator](/docs/accelerate/main/pt/package_reference/accelerator#accelerate.Accelerator) para personalizar a inicialização do profiler. Consulte a documentação deste [context manager](https://pytorch.org/docs/stable/profiler.html#torch.profiler.profile) para mais informações sobre cada argumento.

Exemplo:

```python
from accelerate import Accelerator
from accelerate.utils import ProfileKwargs

kwargs = ProfileKwargs(activities=["cpu", "cuda"])
accelerator = Accelerator(kwargs_handlers=[kwargs])
```

#### build[[accelerate.ProfileKwargs.build]]

```python
build()
```

[Fonte](https://github.com/huggingface/accelerate/blob/main/src/accelerate/utils/dataclasses.py#L498)

**Retorna:** `torch.profiler.profile`

O objeto do profiler.

Crie um objeto de profiler com a configuração atual.

## GradScalerKwargs[[accelerate.GradScalerKwargs]]

#### accelerate.GradScalerKwargs[[accelerate.GradScalerKwargs]]

```python
accelerate.GradScalerKwargs(init_scale: float = 65536.0, growth_factor: float = 2.0, backoff_factor: float = 0.5, growth_interval: int = 2000, enabled: bool = True)
```

[Fonte](https://github.com/huggingface/accelerate/blob/main/src/accelerate/utils/dataclasses.py#L224)

Use este objeto em seu [Accelerator](/docs/accelerate/main/pt/package_reference/accelerator#accelerate.Accelerator) para personalizar o comportamento da precisão mista, especificamente como o `torch.amp.GradScaler` ou `torch.cuda.amp.GradScaler` utilizado é criado. Consulte a documentação deste [scaler](https://pytorch.org/docs/stable/amp.html?highlight=gradscaler) para mais informações sobre cada argumento.

Exemplo:

```python
from accelerate import Accelerator
from accelerate.utils import GradScalerKwargs

kwargs = GradScalerKwargs(backoff_factor=0.25)
accelerator = Accelerator(kwargs_handlers=[kwargs])
```

## InitProcessGroupKwargs[[accelerate.InitProcessGroupKwargs]]

#### accelerate.InitProcessGroupKwargs[[accelerate.InitProcessGroupKwargs]]

```python
accelerate.InitProcessGroupKwargs(backend: str | None = 'nccl', init_method: str | None = None, timeout: datetime.timedelta | None = None)
```

[Fonte](https://github.com/huggingface/accelerate/blob/main/src/accelerate/utils/dataclasses.py#L249)

Use este objeto em seu [Accelerator](/docs/accelerate/main/pt/package_reference/accelerator#accelerate.Accelerator) para personalizar a inicialização dos processos distribuídos. Consulte a documentação deste [método](https://pytorch.org/docs/stable/distributed.html#torch.distributed.init_process_group) para obter mais informações sobre cada argumento.

Observação: Se `timeout` for definido como `None`, o valor padrão será baseado em como `backend` está configurado.

```python
from datetime import timedelta
from accelerate import Accelerator
from accelerate.utils import InitProcessGroupKwargs

kwargs = InitProcessGroupKwargs(timeout=timedelta(seconds=800))
accelerator = Accelerator(kwargs_handlers=[kwargs])
```

## KwargsHandler[[accelerate.utils.KwargsHandler]]

#### accelerate.utils.KwargsHandler[[accelerate.utils.KwargsHandler]]

```python
accelerate.utils.KwargsHandler()
```

[Fonte](https://github.com/huggingface/accelerate/blob/main/src/accelerate/utils/dataclasses.py#L59)

Mixin interno que implementa um método `to_kwargs()` para uma dataclass.

#### to_kwargs[[accelerate.utils.KwargsHandler.to_kwargs]]

```python
to_kwargs()
```

[Fonte](https://github.com/huggingface/accelerate/blob/main/src/accelerate/utils/dataclasses.py#L67)

Retorna um dicionário contendo os atributos com valores diferentes dos padrões desta classe.

