PEFT documentation
설치
시작하기
가이드
구성 및 모델통합 메모리 효율적인 학습모델 병합양자화커스텀 모델Adapter 주입PEFT 방법 혼합torch.compilePEFT에 기여하기문제 해결PEPT 체크포인트 형식
분산 학습
메서드
API 참조
설치
시작하기 전에 환경을 설정하고 필요한 패키지를 설치한 후 🤗 PEFT를 구성해야 합니다. 🤗 PEFT는 Python 3.11+에서 테스트되었습니다.
🤗 PEFT는 PyPI와 GitHub에서 사용할 수 있습니다:
PyPI
PyPI에서 🤗 PEFT를 설치하려면:
pip install peft
CUDA Windows Arm64
Windows Arm64 환경에서 PEFT를 PyTorch CUDA와 함께 설치하려면, 예를 들어 NVIDIA RTX Spark 노트북의 경우, NVIDIA PyPI 인덱스에서 PyTorch를 설치해야 합니다. 이러한 장치는 NVIDIA의 Windows Arm64용 PyTorch 빌드를 필요로 하며, 이 빌드는 기본 PyPI 인덱스나 표준 PyTorch 휠 인덱스에서는 사용할 수 없습니다.
아래 명령을 실행하여 시스템이 NVIDIA GPU를 감지하는지 확인하세요.
nvidia-smi
NVIDIA PyPI 인덱스에서 PyTorch를 설치한 후 PEFT를 설치합니다.
pip install torch --index-url https://pypi.nvidia.com/nvtorch_oot_nightly pip install peft
소스
아직 출시되지 않은 새로운 기능은 매일 추가되며, 이는 일부 버그가 있을 수 있음을 의미합니다. 이를 사용해 보려면 GitHub 저장소에서 설치하세요:
pip install git+https://github.com/huggingface/peft
소스 코드를 직접 다루며 코드를 실행하는 동안 실시간으로 결과를 확인해 보려면, 로컬에 클론한 저장소에서 편집 가능한 버전을 설치할 수 있습니다:
git clone https://github.com/huggingface/peft
cd peft
pip install -e ".[test]"PEFT에 기여할 계획이라면 포크, 업스트림 리모트 추가, 작업 브랜치 생성을 포함하여 이 모든 과정을 다루는 기여 가이드를 따르세요.
Update on GitHub