Giao diện: ModelConfig

Thuộc tính

expert _ dtype

• Optional expert_dtype: string

Một số MoE lưu trữ các chuyên gia của chúng ở độ chính xác hẹp hơn so với phần còn lại của mô hình và khai báo điều này tại đây, bên ngoài quantization_config (ví dụ: DeepSeek-V4). Được sử dụng như một phương án dự phòng khi cấu hình lượng tử hóa không khai báo expert_dtype của riêng nó (như DeepSeek-V4.1 đã làm).

Được định nghĩa trong

packages/hub/src/lib/parse-safetensors-metadata.ts:968

---

lượng tử hóa

• lượng tử hóa Optional: MlxQuantizationConfig

Định dạng MLX hiện tại, tùy chọn với các ghi đè theo module được đánh dấu khóa theo tên module.

Được định nghĩa trong

packages/hub/src/lib/parse-safetensors-metadata.ts:960

---

cấu hình lượng tử hóa

• Optional quantization_config: QuantizationConfig | MlxQuantizationConfig

Được định nghĩa trong

packages/hub/src/lib/parse-safetensors-metadata.ts:961

---

text _ config

• Optional text_config: Pick<ModelConfig, "expert_dtype" | "quantization" | "quantization_config">

Được định nghĩa trong

packages/hub/src/lib/parse-safetensors-metadata.ts:962

Update on GitHub