GNN לניתוח גרף ידע: פיתוח ויישום

מדוע GNN עבור גרפי ידע?

גרף ידע (KG) הוא גרף של ישויות ויחסים: (חברה א') → [מחזיקה] → (חברה ב'), (תרופה X) → [מטפלת] → (מחלה Y). שיטות ML סטנדרטיות עובדות עם נתונים טבלאיים ואינן יכולות לנצל את מבנה הגרף. רשתות נוירונים גרפיות (GNN) פותרות משימות על גרפי ידע: חיזוי קישורים חסרים, סיווג צמתים, הסקת עובדות חדשות — משימות שבגישה קלאסית היו דורשות חוקים ידניים או שאילתות SPARQL. הניסיון שלנו מראה שמודלי GNN משפרים את דיוק גילוי הקישורים החבויים ב-20–40% בהשוואה לאלגוריתמים ליניאריים.

כיצד GNN מעבדים מבני גרף?

GNN פועלים על ידי צבירת מידע מצמתים שכנים. כל שכבה אוספת מאפיינים מהסביבה, ומעדכנת את הייצוגים (embeddings) של הצמתים. עבור גרפי ידע עם קצוות מסוגים שונים, נעשה שימוש בקונבולוציות מיוחדות כמו R-GCN (Relational GCN). הן מתחשבות בסוג היחס, ומאפשרות למודל ללמוד סמנטיקה שונה עבור קישורים שונים. גישה חלופית היא NBFNet (Neural Bellman-Ford Networks), המחקה אלגוריתמים של חיפוש מסלול קצר ביותר ומניבה חיזויי רב-קפיצים טובים יותר.

אילו משימות GNN פותרים על גרפי ידע?

חיזוי קישורים — המשימה הנפוצה ביותר. נתון: (חלבון א') → [מקיים אינטראקציה עם] → (?). יש לחזות עם אילו חלבונים אחרים א' מקיים אינטראקציה. יישומים: גילוי תרופות, מערכות המלצה, זיהוי הונאות (מי מקושר לרמאי?).

סיווג ישויות — סיווג צמתים על סמך הקשרים הגרפיים שלהם. דוגמה: קביעת סוג הישות המשפטית (יחיד / חברה / עוסק מורשה) מתוך דפוסי עסקאות פיננסיות.

הסקה / מסקנות רב-קפיציות — הסקה שרשרתית: (א' עובד ב-ב') + (ב' היא חברת בת של ג') → להסיק שא' מקושר בעקיפין לג'. משמש במערכות ציות והשלמת מאגרי ידע.

ארכיטקטורת GNN להסקה על גרפי ידע

עבור חיזוי קישורים אנו משתמשים ב-R-GCN (Relational GCN) — הרחבה של רשת קונבולוציה גרפית עבור גרפים עם קצוות מסוגים שונים:

import torch
import torch.nn as nn
from torch_geometric.nn import RGCNConv

class KnowledgeGraphRGCN(nn.Module):
    def __init__(self, num_entities: int, num_relations: int, embedding_dim: int = 200, num_layers: int = 3):
        super().__init__()
        self.entity_emb = nn.Embedding(num_entities, embedding_dim)
        self.convs = nn.ModuleList([
            RGCNConv(embedding_dim, embedding_dim, num_relations)
            for _ in range(num_layers)
        ])
        self.dropout = nn.Dropout(0.2)

    def forward(self, edge_index, edge_type):
        x = self.entity_emb.weight
        for conv in self.convs:
            x = torch.relu(conv(x, edge_index, edge_type))
            x = self.dropout(x)
        return x

    def score_triple(self, head_emb, tail_emb, relation_id):
        rel = self.relation_emb(relation_id)
        return (head_emb * rel * tail_emb).sum(dim=-1)

עבור הסקה מורכבת יותר עם שרשראות רב-קפיציות, אנו משתמשים ב-CompGCN או NBFNet (Neural Bellman-Ford Networks) — האחרון מראה איכות טובה יותר על מדדי FB15k-237 ו-WN18RR, עם שיפור של 15–20% ב-MRR בהשוואה ל-R-GCN.

כיצד להגדיל GNN לגרפים גדולים?

קנה המידה של גרף ידע בעולם האמיתי: ויקינתונים מכיל 100M+ צמתים, 1B+ קצוות. אימון GNN מלא על גרף כזה בלתי אפשרי במצב נאיבי. אנו מיישמים:

• דגימת מיני-קבוצות: דגימת שכונות בסגנון GraphSAGE — כל מיני-קבוצה מכילה שכונת k-קפיצים של צמתים נבחרים
• דגימה שלילית: עבור אימון חיזוי קישורים, יש צורך בדוגמאות שליליות; אנו משתמשים בדגימה שלילית אדפטיבית עצמית מ-RotatE
• אימון מעורב CPU/GPU: אחסון embeddings על CPU, חישוב על GPU באמצעות PyG + DGL

from dgl.dataloading import MultiLayerNeighborSampler, EdgeDataLoader
sampler = MultiLayerNeighborSampler([15, 10, 5])
dataloader = EdgeDataLoader(graph, train_eids, sampler, batch_size=1024, shuffle=True, num_workers=4)

מדוע GNN עולים על שיטות קלאסיות?

היתרון המרכזי הוא חילוץ אוטומטי של דפוסים מבניים. שיטות מסורתיות (למשל, TransE, DistMult) ממדלות יחסים במרחב וקטורי אך אינן מתחשבות בהקשרים מקומיים של צמתים. GNN צוברים מאפיינים משכונות רב-שלביות, ומניבים איכות גבוהה יותר בנתונים דלילים — שיפור של 25–30% ב-Hits@10. בנוסף, GNN עמידים יותר לקצוות רועשים: גרפי ידע מכילים לעיתים קרובות שגיאות חילוץ, ו-GNN יכולים להחליק רעש זה על ידי ממוצע שכנים.

יישומים בעולם האמיתי

ביומד — חיזוי אינטראקציות תרופה-מטרה. גרף: חלבונים, גנים, מחלות, תרופות, תופעות לוואי. MRR על DRKG: 0.32–0.38 עבור R-GCN לעומת 0.41–0.47 עבור NBFNet. פרסנו מודלים כאלה עבור חברת תרופות — בחרנו 200 זוגות תרופה-מטרה פוטנציאליים תוך 3 שבועות במקום 3 חודשים של ניתוח ידני.

מערכות פיננסיות — גרף של עסקאות, חברות, דירקטורים, כתובות. משימה: זיהוי קישורים חבויים לצורך ציות ל-AML. F1 על זיהוי קישורים חשודים: 0.78–0.84. פרויקט אחד צמצם את זמן סינון הלקוחות פי 5.

מסחר אלקטרוני — גרף ידע של מוצרים, קטגוריות, מאפיינים, מותגים. חיזוי קישורים → המלצות פריט-לפריט. NDCG@10 גבוה ב-8–12% בהשוואה לקו בסיס של סינון שיתופי.

בניית גרף ידע מנתונים לא מובנים

אם ללקוח אין גרף ידע מוכן, השלב הראשון הוא בנייתו: NER (זיהוי ישויות בעלות שם) לחילוץ ישויות מטקסטים, RE (חילוץ יחסים) לחילוץ יחסים. אנו משתמשים ב-SpanBERT או REBEL (מודל המשלב NER ו-RE במעבר יחיד). לאחר החילוץ, אנו מבצעים קישור ישויות — נורמליזציה של מילים נרדפות וכפילויות, דבר קריטי לאיכות המודל הסופי.

מה כלול בעבודה (תוצרים)

• תיעוד של מבנה הגרף והארכיטקטורות הנבחרות
• מודל GNN עם היפרפרמטרים ומדדים (MRR, Hits@K)
• API להסקה (REST/gRPC) עם תמיכה בבקשות אצווה
• אינטגרציה למוצר או לצינור הנתונים שלך
• הכשרת הצוות שלך: כיצד להרחיב את הגרף, כיצד לאמן מחדש את המודל עבור ישויות חדשות
• אחריות תמיכה ל-3 חודשים לאחר המסירה

שלבי הפיתוח

1. ניתוח נתונים: מבנה, גודל, איכות של גרף קיים או מקורות לבניית אחד.
2. בחירת ארכיטקטורת GNN למשימה שלך, אב-טיפוס על תת-קבוצה.
3. בניית גרף ידע או ניקוי, נורמליזציה של קישור ישויות.
4. אימון מודל, כוונון היפרפרמטרים, הערכה על קבוצת בדיקה מופרדת.
5. פיתוח API להסקה, אינטגרציה למוצר.
6. בדיקות על נתונים אמיתיים, אופטימיזציה של זמן השהייה p99.