למידת מכונה באפליקציות מובייל: CoreML, TFLite ומודלים במכשיר
אנו מבחינים בין שתי גישות שונות מהותית: אפליקציה עם AI במכשיר ואפליקציה שפשוט קוראת ל-API בענן. הראשונה עובדת ללא אינטרנט, אינה שולחת נתוני משתמש לשרתי צד שלישי, ומגיבה תוך 50 אלפיות שנייה. השנייה תלויה בהשהיית רשת ובתוכניות תמחור. בחירת הארכיטקטורה היא שלב מפתח שמשפיע ישירות על עלות, פרטיות וחוויית משתמש בלמידת מכונה באפליקציות מובייל. הניסיון שלנו מראה שב-70% מהפרויקטים, עיבוד במכשיר זול יותר בטווח הארוך בשל ביטול עלויות השרת.
כיצד לבחור בין CoreML ל-TFLite לעיבוד במכשיר?
CoreML — המסגרת המקורית של אפל להרצת מודלי ML במכשיר. תומך ב-Neural Engine (החל מ-A11 Bionic), GPU ו-CPU כגיבוי. מודלים מומרים לפורמט .mlmodel באמצעות coremltools מ-PyTorch, ONNX או TensorFlow. ההמרה לא תמיד טריוויאלית: שכבות מותאמות אישית דורשות יישום של MLCustomLayer, וכימות INT8 יכול לעיתים להפחית משמעותית את הדיוק על נתונים ספציפיים. אנו מוודאים שהמודל הסופי עובר ולידציה על נתונים אמיתיים לפני ואחרי ההמרה.
TensorFlow Lite — חלופה חוצת פלטפורמות לאנדרואיד ו-Flutter. באנדרואיד הוא משתמש ב-NNAPI (Neural Networks API) להאצת חומרה — מאז אנדרואיד 10 NNAPI יציב יותר; לפני כן עדיף להשתמש במפורש ב-GPU delegate באמצעות GpuDelegate. טעות אופיינית: המודל מאומן על נתונים מנורמלים בטווח [0,1], אבל האפליקציה מזינה [0,255] — העיבוד רץ אבל מייצר תוצאות חסרות משמעות ללא כל שגיאה. אנו כוללים מודול ולידציה אוטומטי של נתוני קלט ב-SDK.
למשימות של סיווג תמונות, זיהוי עצמים וסגמנטציה, קיימים מודלים אופטימליים מוכנים לשימוש. YOLOv8 בפורמט CoreML מריץ זיהוי על פריים 640×640 ב-15–20 אלפיות שנייה ב-Neural Engine של אייפון 14. MobileNetV3 על TFLite עם GPU delegate רץ בסביבות 8 אלפיות שנייה ב-Pixel 7 לסיווג.
| פרמטר | CoreML | TFLite |
|---|---|---|
| פלטפורמות | iOS, macOS, watchOS | אנדרואיד, iOS, לינוקס, מערכות משובצות |
| האצת חומרה | Neural Engine, GPU, CPU | NNAPI, GPU (OpenCL/OpenGL), CPU |
| תמיכה בכימות | FP16, INT8 (עם coremltools) | FP16, INT8, טווח דינמי |
| פעולות מותאמות אישית | באמצעות MLCustomLayer (Swift) | באמצעות delegates (Java/Kotlin) |
| גודל חבילת המודל | ~3–5 MB (MobileNetV2 מכומת) | ~2–4 MB |
מה אם אתה צריך יצירת טקסט במכשיר?
הרצת מודלי שפה קטנים במכשיר הפכה למציאות בשנים האחרונות. Apple Intelligence משתמשת במודלים משלה באמצעות Private Cloud Compute, אבל למפתחי צד שלישי קיימות דרכים אחרות.
llama.cpp עם backend של Metal ב-iOS היא גישה עובדת עבור phi-3-mini (3.8B פרמטרים, כימות 4-bit, ~2.3 GB). עיבוד: 15–25 טוקנים/שנייה באייפון 15 Pro. לשילוב ב-Swift, השתמש ב-Swift Package llama.swift או ב-wrapper דרך ממשק C llama.h. הבינארי לא ארוז עם האפליקציה — המודל מורד בהפעלה הראשונה ונשמר ב-Application Support. המפתחים המוסמכים שלנו מגדירים הורדה מצטברת כדי לא לחסום את ההפעלה הראשונה.
באנדרואיד, האנלוג הוא Google AI Edge (לשעבר MediaPipe LLM Inference API) שתומך ב-Gemma-2B. הוא עובד דרך GPU delegate, על שבב Tensor G3 ב-Pixel 8 Pro — כ-20 טוקנים/שנייה.
המגבלות אמיתיות: מודלים גדולים מ-4B פרמטרים עדיין איטיים במכשירים ניידים. למשימות חשיבה מורכבות, LLM במכשיר נופל באיכות מול GPT-4o. גישה היברידית — במכשיר למשימות קצרות ונתונים פרטיים, ענן לשאילתות מורכבות — היא לעיתים קרובות אופטימלית. אנו נעריך את המקרה שלך ונציע איזון בין ביצועים לפרטיות — צור קשר.
כיצד עיבוד במכשיר משתווה לענן מבחינת עלות וביצועים?
עיבוד במכשיר זול בדרך כלל פי 10 לבקשה מאשר API בענן למשימות זיהוי תמונות, ובמקביל מבטל שונות בהשהיה וסיכוני פרטיות. הטבלה שלהלן מסכמת את הפשרות.
| קריטריון | עיבוד במכשיר | API בענן |
|---|---|---|
| השהיה | <50ms | 200–500ms (כולל רשת) |
| עלות ל-1M בקשות | $0 (ללא שרת) | $10–50 (AWS Rekognition, Google Vision) |
| פרטיות | הנתונים נשארים במכשיר | הנתונים נשלחים לשרת |
| עבודה ללא אינטרנט | כן | לא |
| מדרגיות | אין בעיות קנה מידה של שרת | יש להקצות קיבולת API |
לאפליקציה עם 100K משתמשים פעילים חודשיים שמריצה 10 זיהויי תמונות למשתמש בחודש, עיבוד במכשיר יכול לחסוך עד $5,000 חודשי בהשוואה ל-API בענן. קבל ייעוץ על ארכיטקטורת ה-ML שלך היום.
שילוב OpenAI API ומודלי ענן אחרים
לתרחישים שבהם עיבוד בענן מקובל, שילוב OpenAI, Anthropic או Google Gemini הוא לקוח HTTP + הזרמת SSE. ב-Swift, AsyncThrowingStream נוח להזרמת תגובות. ב-Kotlin, השתמש ב-Flow.
קריטי: מפתחות API אסור לעולם לאחסן בחבילת האפליקציה. אפילו מפתח מוסתר ניתן לחילוץ מה-IPA תוך 10 דקות באמצעות strings או frida. ארכיטקטורה נכונה: אפליקציה ניידת → backend משלך → OpenAI API. ה-backend שולט במגבלות קצב, מתעד בקשות ומגן על המפתח.
מה כלול בעבודה (תוצרים)
- מודל מאומן ומכומת למכשיר היעד (תיעוד עם מדדים)
- SDK לשילוב (Swift/Kotlin/Flutter) עם דוגמאות קריאה
- בדיקות ביצועים על 3–5 מכשירים אמיתיים
- הוראות לעדכוני מודל OTA
- תמיכה במהלך המודרציה של App Store / Google Play (עמידה בהנחיות 4.2, 5.1)
- שבועיים של תמיכה טכנית לאחר השחרור
צנרת פרויקט אופיינית
- ניתוח משימה — מדידת השהיה, פרטיות, גודל, מכשירים נתמכים.
- אב-טיפוס מודל — בפייתון, הערכת דיוק על נתוני יעד.
- המרה וכימות — עבור CoreML/TFLite עם ולידציה.
- שילוב באפליקציה — מודל עטוף בשכבת שירות (קל להחליף CoreML ↔ TFLite ↔ ענן).
- בדיקות — על מכשירים אמיתיים, מדידת FPS, RAM, סוללה.
- פריסה — דרך TestFlight / Firebase App Distribution, ניטור מדדים.
לוחות זמנים: שילוב מודל CoreML/TFLite מוכן — 1–2 שבועות, פיתוח מודל מותאם אישית עם אופטימיזציה למובייל — מ-6 שבועות, צ'אט LLM במכשיר עם התאמה אישית — 4–8 שבועות.
למה אנחנו לוקחים על עצמנו מקרים מורכבים?
10+ שנות ניסיון בפיתוח מובייל, 50+ פתרונות AI/ML מיושמים, אחריות לתאימות עם גרסאות iOS ואנדרואיד עדכניות. כל הפרויקטים עוברים בדיקת קוד ובדיקות עומס. העלות כוללת הכנת תיעוד מודרציה והכשרת הצוות שלך.
צור קשר — נעזור לך לבחור את הארכיטקטורה וליישם ML באפליקציה שלך במפתח. הזמן ביקורת של הפתרון הקיים שלך — נעריך את הפוטנציאל לחיסכון בעלויות שרת. בחלק מהפרויקטים, החיסכון יכול להגיע לסכומים משמעותיים בחודש.