כוונון הוראות ל-LLM: מדריך מלא ל-AI ארגוני

הערה: כאשר עוזר ארגוני המבוסס על LLM מייצר נימוק כללי במקום תגובות מבוססות כללים, זו בעיה אופיינית של מודל בסיס. אתה נותן הוראה "כתוב תשובה ללקוח באמצעות תבנית ה-CRM," והוא מייצר טקסט מופשט. כדי להפוך מודל כללי לעוזר שמבין את ההקשר הארגוני,你需要 כוונון הוראות (נקרא גם כוונון עדין מבוסס הוראות). שיטה זו מכווננת את המודל לשפה ולתקנים הארגוניים, ומבטיחה תגובות צפויות. הגישה יעילה פי 2–3 מכוונון עדין מסורתי למשימות הדורשות היצמדות להוראות טקסטואליות מורכבות. כוונון מודל שפה לתחום ספציפי הוא משימה מרכזית בפרויקטים של RAG ו-MLOps.

במה שונה LLM בסיסי מ-Instruct?

LLM בסיסי (למשל, Llama 3.1 8B) פשוט ממשיך טקסט. תן לו התחלה—הוא ימשיך, אבל לא יגיב כעוזר. LLM מסוג Instruct (Llama 3.1 8B Instruct או Mistral Instruct 7B) עוקב אחר הוראות: עונה, מנתח, מסרב לתוכן לא רצוי. בעת כוונון עדין של מודל ארגוני, אנחנו בדרך כלל לוקחים גרסת Instruct מוכנה (Llama Instruct, Mistral Instruct) ומתאימים אותה לתחום. אבל לפעמים נדרש כוונון הוראות מלא מאפס—למשל, כשעובדים עם מודל בסיסי או כשצריך לשנות התנהגות.

באילו פורמטי נתונים משתמשים לכוונון הוראות?

{
  "instruction": "Переведи текст с английского на русский",
  "input": "The contract must be signed before the deadline",
  "output": "Договор должен быть подписан до истечения срока"
}

{
  "conversations": [
    {
      "from": "human",
      "value": "Проанализируй баланс компании"
    },
    {
      "from": "gpt",
      "value": "Для анализа баланса нужны следующие показатели..."
    },
    {
      "from": "human",
      "value": "Как интерпретировать соотношение активов?"
    },
    {
      "from": "gpt",
      "value": "Соотношение текущих и долгосрочных активов показывает..."
    }
  ]
}

messages = [
    {"role": "system", "content": "Ты — ассистент по финансовому анализу"},
    {"role": "user", "content": "Рассчитай ROE"},
    {"role": "assistant", "content": "ROE = Чистая прибыль / Собственный капитал × 100%..."},
]
formatted = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)

כמה נתונים דרושים?

מחקר LIMA הראה ש-1,000 דוגמאות איכותיות מתפקדות כמו 52,000 דוגמאות רגילות. איכות גוברת על כמות. אמות מידה לכוונון הוראות מתמחה:

למה כוונון הוראות קריטי ל-AI ארגוני?

עוזר ארגוני חייב לא רק לענות, אלא גם לעמוד בתקנות, בטון הארגוני ובטרמינולוגיה. ללא כוונון עדין מבוסס הוראות, המודל עלול לייצר תגובות לא נכונות מבחינה סגנונית או לחשוף מידע סודי. כיווננו את Llama 3.1 8B על 1,800 דוגמאות של תקשורת פנימית מחברת IT. תוצאות: היצמדות לטון הארגוני עלתה מ-2.9 ל-4.4 (לפי LLM-judge), דיוק הטרמינולוגיה התחומית מ-61% ל-87%, סירובים נכונים מ-34% ל-89%, וסירובים שגויים ירדו מ-8% ל-2%. כללנו דוגמאות שליליות—שאילתות שהמודל צריך לסרב להן (מתחרים, נתונים אישיים). הלקוחות שלנו מדווחים על שיפור פי 3 בדיוק התגובות בהשוואה למודלים בסיסיים, עם התכנסות אימון מהירה ב-70%. עלות פרויקט טיפוסית נעה בין $10,000 ל-$50,000 בהתאם לגודל מערך הנתונים ומורכבות המודל, אבל חברות רואות לעיתים קרובות הפחתה פי 3 בזמן פתרון פניות תמיכה לאחר הכוונון, וחוסכות $100,000 בשנה.

from trl import SFTTrainer, SFTConfig
from peft import LoraConfig

trainer = SFTTrainer(
    model=model,
    args=SFTConfig(
        output_dir="./corporate-instruct",
        num_train_epochs=4,
        learning_rate=2e-4,
        per_device_train_batch_size=4,
        gradient_accumulation_steps=4,
        max_seq_length=2048,
        bf16=True,
        dataset_text_field="text",
    ),
    train_dataset=formatted_dataset,
    peft_config=LoraConfig(r=16, lora_alpha=32, target_modules=["q_proj","v_proj"]),
)

def document_to_instructions(doc_text: str, llm_client) -> list:
    response = llm_client.chat.completions.create(
        model="gpt-4o",
        messages=[{
            "role": "user",
            "content": f"""Из следующего документа создай 10 обучающих примеров для LLM. Каждый пример: {{"instruction": "задание", "output": "правильный ответ на основе документа"}}. Разнообразь типы заданий: вопросы, суммаризация, анализ, сравнение. Документ: {doc_text[:3000]} Верни JSON-массив примеров."""
        }],
    )
    return json.loads(response.choices[0].message.content)