تمت مساهمة هذا النموذج في Hugging Face Transformers في 2026-11-09.

JEV

نماذج اتخاذ القرار، وخط أنابيب decision، وDecisionConfig تجريبية: قد يتغير واجهة برمجة التطبيقات الخاصة بها في أي وقت، دون إصدار تحذير مسبق.

JEV هو رأس قرار يقوم بتقييم التسميات أحادية الرمز باستخدام طبقة خطية عند الرمز الأخير في الاستدعاء، مع حد أقصى ناعم مشابه لقيم اللوجيت في رأس نموذج اللغة. تم تقديمه بواسطة JEV ويُستخدم أيضًا بواسطة GEV.

JevForDecision هو نموذج نقطة التفتيش ورأسه، تمامًا كما أن ForCausalLM هو النموذج ورأسه lm_head. يقوم بقراءة الملفات التي تُشحن مع رأس نقطة التفتيش، إلى جانب أوزانها (readout.safetensors وdecision_config.json لنماذج قرار vLLM، وhead.safetensors وjudge_config.json لـ JEV).

from transformers import pipeline

decide = pipeline("decision", model="autotrust/GEV-26B-Decide")
decide(
    {
        "state": "I was charged twice for my order and want a refund.",
        "questions": {"refund": {"type": "noul", "instructions": "Is a refund requested?"}},
    }
)

راجع خط أنابيب اتخاذ القرار لأصول الصور.

بدون خط الأنابيب، تُستخدم نماذج اتخاذ القرار على غرار generate: حيث يقوم تكوين القرار بإنشاء موجه لكل سؤال (أو موجه واحد لجميع الأسئلة) باستخدام قالب المحادثة، ثم يقوم decide بتقييم خيارات كل سؤال، ويحوّل Question.answer هذه التقييمات إلى إجابات:

from_pretrained لا يُحمّل LoRA من نقاط التفتيش التي تحتفظ به في مجلد فرعي (decision_config.adapter، مثل adapter/ لـ JEV). يقوم خط الأنابيب بتحميله نيابةً عنك؛ وبدون خط الأنابيب، استدعِ load_adapter بنفسك كما هو موضح أدناه، وإلا فإن النموذج سيرد بالأوزان الأساسية.

import torch
from transformers import AutoTokenizer, JevForDecision

repo = "autotrust/JEV-9B"
model = JevForDecision.from_pretrained(repo, dtype=torch.bfloat16, device_map="auto")
tokenizer, config = AutoTokenizer.from_pretrained(repo), model.decision_config  # read from the checkpoint's files
if config.adapter:  # JEV keeps its LoRA in a subfolder: `from_pretrained` doesn't load it, the pipeline does
    model.load_adapter(repo, adapter_kwargs={"subfolder": config.adapter})

request = {
    "state": "I was charged twice for my order and I want my money back today.",
    "questions": {
        "refund": {"type": "noul", "instructions": "Does the customer ask for a refund?"},
        "urgency": {"type": "score", "criteria": ["Can wait", "This week", "Today", "Now"]},
    },
}
answers = {}
for inputs, questions in config.prepare_inputs(request, tokenizer):
    scores = model.decide(**inputs, decision_questions=questions)
    answers |= {q.name: q.answer(s.softmax(-1).tolist()) for q, s in zip(questions, scores)}

تقرأ الرأس نفسه رموز الإجابة الـ 255 الخاصة بـ pplx-decider و d3، حيث يولي العمود الفقري Qwen3.5 اهتمامه بالموجّه الكامل (is_causal=False في text_config الخاص بـ JevForDecision لهما). تُقرأ رأسهما (readout.safetensors) وإعداداتهما (decision_config.json) كما هي، إلى جانب أوزانهما:

pipeline("decision", model="vllm-sr/d3")(request)  # or perplexity-ai/pplx-decider-v1.1-27b

JevConfig

>>> from transformers import JevConfig, JevForDecision

>>> model = JevForDecision(JevConfig(hidden_size=4096))

JevForDecision