כוונון עדין של מודלי השפה Phi של מיקרוסופט

אנו מתמחים בכיוונון עדין של מודלי phi, כולל כיוונון עדין של phi-4 ו-qlora phi-3, לפריסת llm בקצה. המומחיות שלנו מכסה מודלי שפה קומפקטיים ואופטימיזציה של llm למובייל. כשמנסים לפרוס מודל 70B מלא במכשיר נייד, נתקלים במגבלות זיכרון וצריכת חשמל. Microsoft Phi פותר בעיה זו: עם 3.8B פרמטרים, הוא מספק איכות דומה למודלים גדולים פי 3–5 במשימות חשיבה וקידוד. עם זאת, שימוש במודל הבסיסי ישירות מניב לעיתים קרובות תשובות לא מספקות לשאלות בתחומים ספציפיים. שיעור ההזיות בהוראות סטנדרטיות יכול להגיע ל-30% — בלתי מקובל לשימוש בייצור. כיוונון עדין על מערך הנתונים שלך מפחית הזיות פי 3–5 ומשפר את הדיוק מ-55% ל-90%. ברוב הפרויקטים, אנו רואים לקוחות שמנסים להשתמש במודל הבסיסי ללא כיוונון עדין ומקבלים 40% תשובות לא רלוונטיות. כיוונון עדין לצרכים עסקיים פותר בעיה זו באופן קיצוני.

ליישומי LLM למובייל, אנו ממליצים על Phi-3-mini מכוונן עם QLoRA — שילוב זה משיג דיוק תחומי של 85% תוך שהוא קטן פי 3 ממודלים דומים כמו Llama 3.1 8B, ועולה רק $2 לחודש בהסקת ענן לעומת $6 לחלופות. כיוונון עדין של Phi-4 עם QLoRA עולה רק $2 לחודש בהסקת ענן, שזה פי 3 זול יותר מ-Llama 3.1 8B, ומניב דיוק של 85%. תקציבי פרויקט טיפוסיים נעים בין $5,000 ל-$15,000, עם עלויות הסקת ענן שוטפות נמוכות עד $2 לחודש.

באמצעות חוקי סקיילינג, Phi-4 משיג הפחתת perplexity מעולה במשימות במורד הזרם. מודל הבסיס Phi-4 עם 14B פרמטרים עולה על Llama 3.1 70B במספר מדדי מתמטיקה וקידוד. זה מושג באמצעות שימוש בנתונים סינתטיים וספרי לימוד במהלך האימון Microsoft Research.

השוואת מודלי Phi לכיוונון עדין

כיצד אנו מכווננים Phi: מחסנית ותצורה

אנו משתמשים בשילוב של transformers + trl + peft. לכיוונון עדין של phi-4 עם QLoRA, אנו משתמשים במודלי שפה קומפקטיים כמו phi-3-mini לפריסת קצה. להלן דוגמה לכיוונון עדין של QLoRA עבור Phi-4 עם קוונטיזציה של 4-bit:

from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig
from trl import SFTTrainer, SFTConfig
from peft import LoraConfig
import torch

model = AutoModelForCausalLM.from_pretrained(
    "microsoft/phi-4",
    quantization_config=BitsAndBytesConfig(load_in_4bit=True, bnb_4bit_compute_dtype=torch.bfloat16),
    device_map="auto",
    trust_remote_code=True,
    torch_dtype=torch.bfloat16,
)

trainer = SFTTrainer(
    model=model,
    args=SFTConfig(
        output_dir="./phi4-finetuned",
        num_train_epochs=4,
        per_device_train_batch_size=4,
        gradient_accumulation_steps=4,
        learning_rate=1e-4,
        bf16=True,
        max_seq_length=8192,
    ),
    peft_config=LoraConfig(
        r=16,
        lora_alpha=32,
        target_modules=["q_proj", "v_proj", "k_proj", "o_proj"],
        task_type="CAUSAL_LM"
    ),
    train_dataset=dataset,
)

trainer.train()

חשוב: עבור Phi-4 השתמש ב-from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig from trl import SFTTrainer, SFTConfig from peft import LoraConfig import torch model = AutoModelForCausalLM.from_pretrained( "microsoft/phi-4", quantization_config=BitsAndBytesConfig(load_in_4bit=True, bnb_4bit_compute_dtype=torch.bfloat16), device_map="auto", trust_remote_code=True, torch_dtype=torch.bfloat16, ) trainer = SFTTrainer( model=model, args=SFTConfig( output_dir="./phi4-finetuned", num_train_epochs=4, per_device_train_batch_size=4, gradient_accumulation_steps=4, learning_rate=1e-4, bf16=True, max_seq_length=8192, ), peft_config=LoraConfig( r=16, lora_alpha=32, target_modules=["q_proj", "v_proj", "k_proj", "o_proj"], task_type="CAUSAL_LM" ), train_dataset=dataset, ) trainer.train() וב-dtype trust_remote_code=True. זה מבטיח אימון יציב ללא קפיצות אובדן. עם קוונטיזציה של 4-bit (QLoRA), 24 GB VRAM מספיקים עבור Phi-4. בדיקת נקודות Gradient ואימון בדיוק מעורב (bfloat16) מפחיתים עוד יותר את טביעת הזיכרון, ומאפשרים כיוונון עדין על GPUs צרכניים. טכניקות מתקדמות כמו בדיקת נקודות Gradient ואימון בדיוק מעורב מפחיתות עוד יותר את טביעת הזיכרון, ומאפשרות שיפורי perplexity מ-8.2 ל-4.5.

יתרונות כיוונון עדין של Phi במכשירי קצה

Phi-3/4-mini (3.8B) הוא הבחירה הפופולרית ביותר לפריסה באפליקציות מובייל והרחבות דפדפן. לאחר כיוונון עדין וקוונטיזציה, המודל מתאים למכשיר ועובד לא מקוון. זה מפחית עלויות מחשוב ענן ב-60% בהשוואה ל-GPT-4 — חיסכון של עד $5,000 לחודש עבור עומסי עבודה טיפוסיים — תוך שמירה על איכות. להלן השוואה של פורמטי קוונטיזציה:

אנו מבטיחים זמן השהיה p99 של לא יותר מ-150 אלפיות השנייה במכשיר, דבר קריטי לשימוש בזמן אמת.