Тарифы и биллинг

Hugging Face Jobs позволяют выполнять вычислительные задачи на инфраструктуре Hugging Face без необходимости самостоятельно управлять ею. Достаточно определить команду, Docker-образ и тип оборудования среди различных вариантов CPU и GPU.

Jobs доступны любому пользователю или организации с положительным балансом кредитов. Ежемесячные вычислительные кредиты, входящие в подписку PRO, Team или Enterprise, учитываются в этом балансе и могут быть потрачены на Jobs.

Тарификация в Jobs основана на использовании аппаратного обеспечения и рассчитывается по минутам: вы платите за каждую минуту, в течение которой Jobs выполняется на запрошенном оборудовании.

В течение жизненного цикла Job тарификация происходит только в состояниях Starting или Running. Это означает, что на этапе сборки стоимость не начисляется.

Если работающая задача начинает завершаться с ошибкой, она будет автоматически приостановлена, и начисление платы прекратится.

Тарифы

Оплата за задания рассчитывается по минутам в зависимости от используемого оборудования. Например, 10 оплачиваемых минут на a10g-small обходятся примерно в $0,17 за использование оборудования.

Чтобы управлять расходами, установите тайм-аут, отмените Job или просмотрите текущее использование.

CPU

GPU

Вы также можете программно получить доступ к доступному оборудованию и ценам через API по адресу GET /api/jobs/hardware или через CLI:

>>> hf jobs hardware

Открытые порты

Job может открывать один или несколько портов, чтобы сделать их доступными извне во время выполнения Job. Открытие одного или нескольких портов тарифицируется по фиксированной ставке за Job в дополнение к стоимости оборудования:

Как и в случае с оборудованием, тарификация происходит по минутам, только пока задача находится в состоянии Starting или Running.

Управление биллингом

Оплата вашей организацией

По умолчанию списание средств производится в пространство имён пользователя, но вы можете указать нужное namespace, чтобы списание производилось в вашу организацию:

hf jobs run --namespace my-org-name ...

В этом случае Job выполняется от имени учётной записи организации, и вы можете увидеть его на странице Jobs вашей организации (страница организации > settings > Jobs).

На тарифных планах Enterprise и выше администраторы организации могут ограничить, кто может запускать и просматривать Jobs, тарифицируемые по организации, — только администраторы организации или члены выбранных Resource Groups — через настройки Granular feature access.

Оплата ресурсной группы

Эта функция входит в план Enterprise и выше.

Если в вашей организации настроены группы ресурсов, вы можете отнесёть затраты на задачи к конкретной группе ресурсов. Для этого:

1. Вы должны быть участником группы ресурсов.
2. Передайте организацию, владеющую группой ресурсов, в качестве namespace, а идентификатор группы ресурсов — в качестве resource_group_id. Оба параметра обязательны: группа ресурсов учитывается только для Jobs, тарифицируемых для её организации.

Идентификатор группы ресурсов можно найти на странице настроек групп ресурсов вашей организации.

hf jobs run --namespace my-org-name --resource-group-id <resource-group-id> ...

На Python:

>>> from huggingface_hub import run_job
>>> run_job(
...     image="python:3.12",
...     command=["python", "-c", "print('Hello!')"],
...     namespace="my-org-name",
...     resource_group_id="<resource-group-id>",
... )

Администраторы организации и группы ресурсов могут устанавливать ежемесячные лимиты расходов для Jobs, тарифицируемых по группе.

Просмотр текущего использования вычислительных ресурсов

Вы можете просмотреть текущие сведения о тарификации для Jobs на странице Billing в разделе “Compute Usage”:

Дополнительную информацию о тарификации можно найти в специализированной документации Hub.

Рекомендации

Установка ограничений по времени ожидания

Установите timeout при создании Job, чтобы он не мог выполняться дольше определённого времени. Запуск Job, достигший длительности timeout, автоматически останавливается, как и его тарификация. Вот как установить таймаут с помощью CLI:

hf jobs run --timeout 3h ...

Обратите внимание, что значение тайм-аута по умолчанию составляет 30 минут. Поэтому, если вашему Job требуется больше времени для выполнения, необходимо указать более длительный тайм-аут.

Отмена нерелевантных задач

Если запущенная задача больше не актуальна, вы можете отменить её досрочно, чтобы прекратить начисление платы, через страницу задачи или с помощью CLI:

hf jobs cancel <job-id>