כיוונון עדין של מודל LLM פתוח למשימות לקוח

אימנתם LLM על מערך הנתונים שלכם. אבל המודל ממציא קודי ICD-10? כיוונון עדין של LLM בקוד פתוח הוא דרך להפוך מודל כללי למומחה בתחום שלכם. אנחנו מכווננים מודלים עם שליטה מלאה על הנתונים. המשקולות בבעלותכם. אתם פורסים באופן מקומי (on-premise).

אתם מרחיבים את ה-inference בלי לשלם לפי טוקן. ניסיון מצטבר — יותר מ-50 פרויקטים: מסיווג ועד יצירת דוחות מורכבים. QLoRA מאפשר לחסוך עד 75% מהתקציב על משאבי מחשוב. נעריך את הפרויקט שלכם. כתבו לנו, נדון בפרטים ונבחר אסטרטגיה. קבלו ייעוץ לפרויקט שלכם.

כיצד לבחור מודל בסיס למשימה?

בחירת מודל בסיס היא החלטה קריטית. בחירה שגויה מובילה לעבודה מחדש בשלב האיטרציות. אנו מעריכים על איזו מחלקת משימות המודל מתפקד בצורה הטובה ביותר ובוחרים את האפשרות האופטימלית.

מדוע כיוונון עדין יעיל יותר מ-RAG עבור משימות מסוימות?

RAG (Retrieval-Augmented Generation) טוב כאשר יש צורך לשלוף עובדות עדכניות ממקור חיצוני. אך אם משימה דורשת הבנה עמוקה של לוגיקה תחומית, כיוונון עדין מספק איכות עקבית יותר.

לדוגמה, באבחון רפואי, המודל חייב לסווג במדויק קוד ICD-10, בעוד ש-RAG עלול להתבלבל בגלל רעש במסמכים הנשלפים. כיוונון עדין "אופה" את הידע ישירות לתוך המשקלים, ומבטל את הבעיה.

במקביל, כיוונון עדין עם LoRA חסכוני פי 4 בזיכרון בהשוואה לכיוונון עדין מלא, מה שהופך אותו לנגיש עבור רוב הפרויקטים.

מהי יצירת נתונים סינתטיים ומדוע היא נחוצה?

לעתים קרובות ללקוח אין נתונים מתויגים, אך יש לו מקורות לא מובנים: מסמכים, תקנות, שאלות נפוצות. אנו משתמשים ב-GPT-4o או Claude כדי ליצור באופן אוטומטי זוגות אימון. זה מאפשר לקבל אלפי דוגמאות תוך ימים ולא חודשים. עם זאת, חשוב לאמת את המדגם באופן ידני — לפחות 10–15% לבקרת איכות.

from openai import OpenAI
import json

client = OpenAI()

def generate_training_example(document_chunk: str, num_examples: int = 5) -> list:
    """Generates training pairs from a document fragment"""
    prompt = f"""You are an expert at creating datasets for training language models.
Based on the document fragment below, create {num_examples} "question-answer" pairs in JSON format.
The questions should be diverse: factual, analytical, practical.
The answers should be precise, based only on the text of the document.
Document: {document_chunk}
Return a JSON array: [{"question": "...", "answer": "..."}]"""
    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[{"role": "user", "content": prompt}],
        response_format={"type": "json_object"},
        temperature=0.7
    )
    return json.loads(response.choices[0].message.content)["pairs"]

כיצד בנוי פרויקט כוונון עדין טיפוסי?

שלב 1: אפיון המשימה והנתונים (1–2 שבועות)

• פורמליזציה של המשימה (סיווג/יצירה/חילוץ)
• מיפוי הנתונים הזמינים, הערכת נפח ואיכות
• בחירת מודל הבסיס ושיטת האימון

שלב 2: הכנת הנתונים (2–6 שבועות)

• איסוף וצבירה של מקורות
• ניקוי (כפילויות, רעש, PII)
• תיוג (ידני/סינתטי/משולב)
• עיצוב לתבנית הצ'אט
• חלוקה ל-train/val/test (80/10/10)

שלב 3: אימון (1–4 שבועות)

• הערכת בסיס (baseline) של מודל הבסיס
• הרצה ראשונה של LoRA/QLoRA עם פרמטרים ברירת מחדל
• ניתוח עקומות training/val loss
• כוונון היפר-פרמטרים
• Full Fine-Tuning במידת הצורך

שלב 4: הערכה ואיטרציות (1–3 שבועות)

• מדדים אוטומטיים (F1, BLEU, ROUGE, accuracy)
• LLM-as-judge (GPT-4o או מודל חזק אחר כשופט)
• הערכה אנושית של מדגם
• ניתוח מקרי כשל → עידון הנתונים

שלב 5: פריסה וניטור (1–2 שבועות)

• קוונטיזציה (אופציונלי)
• פריסה באמצעות vLLM/TGI
• הגדרת ניטור ומבחן A/B מול baseline

מה כלול בעבודה

• ניתוח המשימה והנתונים, פורמליזציה של מדדי הצלחה
• בחירת מודל הבסיס האופטימלי ושיטת האימון
• הכנת נתונים: איסוף, ניקוי, תיוג (באופן ידני או סינתטי)
• אימון עם כוונון היפר-פרמטרים, תיעוד ב-MLflow
• הערכה: טייס אוטומטי + LLM-as-judge + סט החזקה של מומחים
• פריסה (vLLM, TGI) ואינטגרציה לתוך ה-pipeline שלך
• תיעוד והדרכת צוות הלקוח

מקרה מעשי: התמחות בטלרפואה (מהפרקטיקה שלנו)

משימה: עוזר לרופאי רפואה ראשונית — אבחון מבדל על בסיס תלונות המטופל, הצעת רשימת בדיקות, בחירת קוד ICD-10. הלקוח שלנו הוא מרכז רפואי גדול.

נתוני קלט:

• 450 מקרים קליניים עם מסקנות (מהמערכת הרפואית, אנונימיים)
• המלצות קליניות של משרד הבריאות של הפדרציה הרוסית ל-12 נוזולוגיות (PDF, 3200 עמודים)
• ספר עזר ICD-10

אסטרטגיה:

1. המרת המלצות קליניות לצ'אנקים
2. יצירה סינתטית של 3200 דוגמאות באמצעות GPT-4o (תלונות → אבחון)
3. אימות של 15% מהמדגם על ידי מטפלים מוסמכים
4. כיוונון עדין של Qwen2.5-14B (השפה הרוסית הטובה ביותר למינוח רפואי)

תוצאות (לאחר 4 אפוקים של QLoRA, r=32):

• דיוק Top-3 של ICD-10: 71% → 89%
• שלמות רשימת הבדיקות המומלצות (recall לעומת מומחה): 0.62 → 0.84
• שיעור הזיות (תרופות/פרוצדורות מומצאות): 24% → 6%
• השהיה (vLLM, A100): 1.8 שניות לבקשה

QLoRA איפשר לאמן את המודל על 1x A100 80GB, שזה חסכוני פי 4 מכיוונון עדין מלא. גישה זו מתאימה גם למשימות שלכם — צרו קשר, ואנו נעריך את הפרויקט.

ניטור איכות בייצור

לאחר הפריסה, אנו מגדירים ניטור רציף:

import mlflow # Logging predictions for drift analysis
with mlflow.start_run():
    mlflow.log_metrics({
        "avg_response_length": avg_len,
        "refusal_rate": refusal_rate,
        "latency_p95": latency_p95,
        "user_rating_avg": rating_avg,
    })

סימנים להידרדרות המודל: עלייה בשיעור הסירובים, ירידה בדירוגי המשתמשים, עלייה בשיעור ההסלמה במערכות במורד הזרם.

דרישות תשתית

לוחות זמנים למחזור מלא

פרויקט מינימלי (נתונים מוכנים, משימה פשוטה): 3–5 שבועות. פרויקט טיפוסי (הכנת נתונים מאפס): 8–14 שבועות. פרויקט מורכב (תחום התמחות, תיוג איטרטיבי): 16–24 שבועות.