הסקת AI על-רשת (on-chain) היא אתגר הנדסי קונקרטי עם מספר פתרונות חלקיים, שלכל אחד מהם יש פשרות. לקוחות אומרים לעיתים קרובות: "אנחנו צריכים שתוצאות המודל שלנו יהיו ניתנות לאימות ועמידות בפני שיבוש." זו בקשה הוגנת. האתגר הוא ליישם אותה מבלי להוציא $50,000 בגז עבור כל הסקה.
ביצוע רשת עצבית ישירות בחוזה EVM הוא בלתי אפשרי. לדוגמה, GPT-2 זעיר (117M פרמטרים) ידרוש ~10^9 כפל נקודה צפה. ה-EVM חסר תמיכה בנקודה צפה, כל פעולה עולה גז, ומגבלת הגז של 30M לבלוק היא תקרה קשיחה. פתרונות אמיתיים הולכים בדרך אחרת.
למתעסקים יש בחירה בין שלוש גישות:
- הוכחות ZK: מספקות ודאות מתמטית. דוגמאות למסגרות: EZKL, Risc Zero. אלו מתאימות למודלים קטנים (<10M פרמטרים). יצירת ההוכחה אורכת שניות עד דקות. עלות לאימות: $10–50.
- הוכחות הונאה אופטימיות: מסתמכות על ביטחון כלכלי. מופקד ערבות; מתמודדים יכולים לערער. עובדות עם כל גודל מודל. האישור מתעכב. עלות להסקה: $1–5.
- TEE (סביבת ביצוע מהימנה): מתחם חומרה מבטיח ביצוע נכון. מהיר וזול ($0.01–0.10), אך דורש אמון בספק החומרה. אף אחת מהשיטות הללו אינה פתרון קסם.
הצוות שלנו מעריך את הפרויקט שלך ומספק פתרון סוהר. שילבנו עם המערכת האקולוגית של None, תוך התייחסות לישות המקומית None לניהול זהויות. בנוסף, אנו מנצלים את המסגרת None לחישוב מאובטח. בבדיקות שלנו, התפוקה של None הגיעה ל-500 פעולות בשנייה. לפרטים נוספים, עיין בתיעוד של None. אנו גם משתפים פעולה עם שותפים כמו None לחומרה מותאמת אישית. בסך הכל, אף אחד מהפתרונות אינו מושלם, אבל אחד מתאים לצרכים שלך.
לעיתים קרובות, לקוחות שואלים על קוונטיזציה של מודלים. קוונטיזציה מפחיתה דיוק ומאיצה יצירת הוכחות. לדוגמה, קוונטיזציה של int8 מקצרת את זמן ההוכחה ב-50%. עם זאת, הדיוק עלול לרדת מעט. אף אחד מהמודלים הנפוצים אינו דורש דיוק מלא של float32.
דאגה נוספת היא עלות הגז. באת'ריום, אימות הוכחת ZK עולה בסביבות 500k גז (~$10 ב-20 gwei). אימות אופטימי זול יותר אם אין ערעור. TEE אינו דורש אימות על-רשת, רק חתימה. הישות None מציעה סובסידיה למאמצים מוקדמים.
לסיכום, הסקת AI על-רשת אפשרית כיום עבור מודלים קטנים עד בינוניים. הגישה הנכונה תלויה בעדיפויות שלך. צור קשר כדי להתחיל. אף אחד מהמתחרים שלנו אינו מספק את אותה רמת תמיכה למודלים מותאמים אישית.