מערכת AI לרובוטים-בני לוויה (Social Robots)

למה רובוט חברתי נשבר לתבנית בתגובה השלישית

בשתי התגובות הראשונות או בשלוש רובוט-מלווה מחזיק מעמד בביטחה, אחר כך השיחה מתפוררת לביטויים משוננים. המשתמש מבחין בכך לפני המהנדס: הוא כבר אמר פעמיים על מה מדובר, והרובוט שוב מברך ומציע את הנושא מחדש.

הסיבה בדרך כלל אינה במודל עצמו, אלא באופן שבו נבנה הדיאלוג. אם לשאילתה נשלחת רק התגובה האחרונה, ההיסטוריה לא נשמרת — ואיפוס ההקשר מתרחש לאחר כל משפט. תוספות שירות ורמזי תרחיש מציפים את החלון, תגובות מוקדמות נדחקות החוצה, ורובוט-מלווה מתגלגל אחורה לתחילת ענף התרחיש. מבחן פשוט: לשאול לאחר שלושה תורות איך קוראים לבן השיח ועל מה הוא דיבר לפני דקה.

בחדר רועש זיהוי דיבור טועה פעמיים: מפספס תגובה שקטה ומקבל במקומה שיחה של מישהו אחר. טלוויזיה, דובר שני ליד השולחן, צלצול כלים יוצרים הפעלות שווא, והרובוט עונה למי שלא צריך ולא על מה שצריך.

זה מטופל על ידי סינון לפי כיוון הקול, סף ביטחון ואישור לפני פעולה, ולא על ידי הגברת רגישות המיקרופון.

השהיית תגובה שוברת את הקצב חזק יותר מאי-דיוק: הפסקה של כמה שניות נקראת כתקלה, והאדם עוזב. עוזרות תגובות אישור קצרות בזמן שנאספת תשובה מהותית, ענפים מקומיים כמו טיימר או מזג אוויר ופיצול תגובה ארוכה לקטעים משמעותיים.

הידרדרות לביטויים מוקלטים מראש — לא הגנה, אלא הסוואה: במקום שאלת הבהרה הרובוט חוזר על התסריט, והשיחה מתה סופית. התנהגות נכונה בחוסר ודאות — לשאול שוב, להחליף נושא בכנות או להודות שלא שמע. אנחנו מפרקים כיצד זה נסגר ברמת שמירת היסטוריית הדיאלוג, עיבוד הקול והלוגיקה של התנהגות רובוט-מלווה.

מה נותן דיאלוג מנוהל: אפקט במדדים מדידים

דיאלוג מנוהל נמדד לא לפי יופי של תשובות בודדות, אלא לפי התנהגות בסדרה ארוכה של מפגשים דומים. המדד העיקרי — שיעור התשובות האוטונומיות: איזה חלק מהתגובות הרובוט החברתי סוגר בעצמו, בלי העברה למפעיל.

בהפעלות של תרחישי אורחים הוא מגיע לפלטו של 82–91% וממשיך לגדול לא בכמות הביטויים הכתובים, אלא בחידוד כללי הניתוח של ניסוחים לא ברורים.

המדד השני — יציבות הדיאלוג תחת עומס. אנחנו מחזיקים קו שאלות חוזרות נפרד: אם המערכת לא בטוחה בכוונת האורח, הרובוט לא עונה באקראי, אלא מצמצם את השאלה וחוזר לנושא לאחר תגובה או שתיים. כך המפגש לא נשבר לכעס ולסיום מוקדם — זה ניכר בשיעור הדיאלוגים שהושלמו עד סוף התרחיש.

זמן ההתאוששות לאחר תקלה נמדד מהתשובה השגויה הראשונה ועד החזרה למצב תקין. בעבר זה היה אתחול ידני של כמה דקות עם אובדן הקשר, כעת — חזרה אוטומטית לתצורה היציבה הקודמת עם שמירת המפגש: זה מסתכם בעשרות שניות ומורגש לאורח רק בהפסקה קצרה.

סוגי כשלים נעלמים עם הצטברות טלמטריה: מצבים תקועים, תשובות חוזרות, אובדן זיכרון בין מפגשים, תשובות מחוץ לתפקיד הדמות. העומס על המפעיל פוחת עד כדי מעקב וניתוח מקרים שנויים במחלוקת — תורן אחד מלווה צי של כמה עשרות רובוטים, ולא רובוט אחד.

הבסיס ההנדסי כאן — ROS ושירותים חיצוניים לזיהוי והפקת דיבור, המחוברים בשכבת אינטגרציה אחת. זה מאפשר להחליף מודל בודד מבלי לשכתב את הלוגיקה של התנהגות הרובוט.

היכן הרובוט החברתי עובד באוטונומיה, והיכן נדרש מפעיל

מצב אוטונומי מבוסס על עיבוד מקומי: זיהוי דיבור, לוגיקת דיאלוג והפקת תשובה מבוצעים על גבי הרובוט. התגובה לא תלויה באיכות הרשת, ובמקרה של אובדנה הדיאלוג לא נפסק — עבור חדר ילדים, משרד קבלה או אולם תצוגה זו דרישה בסיסית. המגבלה של המצב — תחום נושא מוגדר מראש: מחוץ לגבולו המערכת מזהה אי-הבנה ולא ממציאה תשובה.

מצב היברידי משאיר תגובות טיפוסיות למכונה, ומעביר מורכבות למפעיל. העברה למפעיל מופעלת לפי סימנים ברורים: שאלות חוזרות, פנייה ישירה לעזרה, התפרצות רגשית, נושא מחוץ לתרחיש. האדם מתחבר לאותו דיאלוג ורואה את ההקשר של התגובות האחרונות, לכן השיחה לא מתחילה מחדש והחוט לא הולך לאיבוד.

השוואת מצבים

בחירת המצב נקבעת לא על ידי טכנולוגיה, אלא על ידי סוג הפניות: ככל ששיעור התגובות הבלתי צפויות גבוה יותר, כך מוקדם יותר נדרש אדם. נוהל ההעברה מחושב בנפרד — לפי איזה סימן הרובוט קורא למפעיל, מה קורה אם זה לא ענה בזמן שהוקצב, וכיצד מצטברים המקרים הללו ללמידה נוספת של הקו האוטונומי.

כיצד אנו מטמיעים מערכת AI: שלבי העבודה

אצל רובוט חברתי הדיאלוג לא חי בנפרד מההתנהגות: תגובה מפעילה מחווה, תאורה וסיבוב ראש, ואיכות זיהוי הדיבור תלויה ברעש בחדר. לכן העבודות מתבצעות ברצף — כל שלב הבא נשען על תוצאה מאומתת של הקודם, ולא על הנחה.

1. ביקורת תרחישים וצווארי בקבוק. אנו מנתחים הקלטות שיחה ולוגים אמיתיים: היכן הרובוט מאבד הקשר, היכן ההפסקה לפני תשובה נעשית לא נוחה, באיזה משפט האורח עוזב את הדיאלוג. בפלט — מפה של מקומות בעייתיים עם תדירות חזרה.
2. תכנון לוגיקת הדיאלוג. אנו מתארים עץ תרחישים וכללי מעבר: ענפי שמירת קשב, תגובה להפרעה, יציאה נכונה ממצב ללא מוצא, הסלמה למפעיל בזיהוי לא בטוח.
3. הגדרת אינטגרציות. אנו מחברים מודולי דיבור, בסיס ידע, שירותים חיצוניים והמכשיר עצמו — מנועים, תאורה, קול. בודקים שפקודת ההפקה הופכת נכון לפעולה פיזית ללא אי-סנכרון.
4. התאמה לנתוני תחום. אנו אוספים מילון שמות, מונחים וניסוחים טיפוסיים של האתר, כדי שהרובוט יבין בביטחון את הדיבור של קהל מסוים, ולא רק ביטויים לדוגמה.
5. בדיקת קבלה. אנו מריצים את המערכת על תרחישים אמיתיים: מחשבים את שיעור הדיאלוגים שהושלמו בהצלחה, זמן תגובה, תדירות שאלות חוזרות. כל הרצה כושלת מנותחת ומתוקנת עד לתוצאה יציבה.
6. מסירה להפעלה. אנו מוסרים נהלים לעדכון תרחישים, פאנל בקרת איכות דיאלוגים והוראות ברורות לצוות האתר. תיקוני תוכן מבוצעים ללא עצירת הרובוט.

מה נשאר לכם לאחר מסירת הפרויקט

אנחנו מוסרים לא ארכיון עם קוד מקור, אלא קו עבודה פעיל שהצוות שלכם יכול לשנות בלעדינו. להלן רשימה של מה שמתועד בקבלה: כל סעיף נבדק על מתקן חי, ולא רק על הנייר.

• תצורות מערכת — תרחישי תגובות, ספי הפעלה, זמני תגובה וכללי מעבר בין מצבים מופרדים לקבצים נפרדים. התנהגות הרובוט משתנה על ידי עריכת תצורה, ללא בנייה מחדש של הלוגיקה.
• תרשימי אינטגרציה — מפת זרימות נתונים בין קו הקול, ליבת הדיאלוג ושירותים חיצוניים, עם נקודות כשל. בנפרד מתואר המצב בעת אובדן רשת: הרובוט עובר לתרחיש בסיסי במקום לקפוא.
• מדיניות גישה לנתונים — חלוקת תפקידים: מי רואה הקלטות דיאלוגים, כמה זמן הן נשמרות, כיצד נמחקות לפי בקשה. עבור תרחישים עם ילדים וקשישים זהו חלק חובה, לא אופציה.
• נהלי עבודת מפעילים — מתי הדיאלוג מועבר לאדם, כיצד לנתח תשובות שנויות במחלוקת, מה לעשות במקרים של תלונות חוזרות. בלי זה מערכת מכוילת מידרדרת תוך שבועות ספורים.
• תיעוד — ארכיטקטורה, תרשים פריסה, יומן מגבלות ידועות וסדר פעולות בתקלות טיפוסיות. כותבים עבור מהנדס שיפתח אותו חצי שנה אחרינו.
• הדרכת צוות — מפגשים מעשיים על מתקן בדיקה: להוסיף תרחיש, לראות מדדי איכות תשובות, לבטל שינוי כושל.
• מערכת תגובות ייחוס — דוגמאות קבועות של דיאלוגים לרגרסיה. לאחר כל שינוי בתרחיש אתם רואים תוך דקות מה לא נשבר.

הקבלה מתבצעת לפי רשימת תיוג: המהנדסים שלכם מבצעים שינוי בעצמם, מריצים רגרסיה ומבטלים גרסה. אם זה מצליח בלי הרמז שלנו — הפרויקט נמסר.

מקרה בוחן: מדריך מוזיאוני — מתקלות תכופות לדיאלוג יציב

בחלל התצוגה של מוזיאון להיסטוריה של העיר עבד רובוט-מדריך חברתי: הוא הוביל את המבקר במסלול וענה על שאלות על המוצגים. הלוגיקה נבנתה על תרחיש קשיח — הרובוט ענה בביטחון רק על ניסוחים שהוזנו מראש.

די היה שמבקר יפריע לו או ישאל "ולמה החפץ הזה עומד בנפרד?", והדיאלוג התפרק: הרובוט חזר על התגובה האחרונה או עבר לאתחול מחדש, והשיחה נאספה על ידי משגיח.

מה שינינו

שכתבנו את לוגיקת הדיאלוג: הרובוט התחיל להחזיק את ההקשר של כל המפגש, ולא של תגובה אחת, לשאול שאלת הבהרה במקום לנחש ולהכיר במפורש כשאין תשובה.

הוספנו בדיקת עובדות מול בסיס המוזיאון, כדי שהמדריך לא ימציא תאריכים ושמות, והעברת דיאלוג למשגיח עם תמצית קצרה — האדם ממשיך מהמקום שבו הרובוט עצר. בנפרד הגדרנו ריצות לילה של שיחות מוקלטות: תיקונים נבדקים על דיאלוגים אמיתיים לפני היציאה לאולם.

היציבות נשענת לא על מודל אחד, אלא על הקו: אם בנייה חדשה של הלוגיקה בריצת לילה עונה גרוע מהקודמת, היא מוחזרת אחורה, ובאולם נשארת הגרסה העובדת. לוגים של דיאלוגים נאספים במקום אחד, לכן סיבת התקלה נמצאת לפי תגובה מסוימת, ולא לפי תלונת מבקר.

במה שונה שלד תרחישי מתשובה גנרטיבית

שלד תרחישי הוא עץ מצבים: הרובוט יודע אילו תגובות מותרות בהקשר הנוכחי, במה מסתיים כל ענף וכיצד להגיב לשתיקה. ההתנהגות משוחזרת: אותו מצב נותן את אותה תשובה, אותו תרחיש עובר בדיקות באופן דטרמיניסטי. המחיר — משפך צר: סטייה מהתבנית נתקלת ב"לא הבנתי, חזור".

תשובה גנרטיבית מייצרת תגובה להקשר מסוים, לכן מחזיקה שיחה חופשית, עונה על שאלה בלתי צפויה ותופסת החלפת נושא. החיזוי של ההתנהגות יורד: התשובה לא משוחזרת מהרצה להרצה, קשה יותר לשמור על גבולות הנושא והטון.

לוגיקה היברידית מפרידה אזורי אחריות. השלד מחזיק ענפים קריטיים — ברכה, היכרות, זיהוי כוונה, הסלמה למפעיל, סירוב בטוח — ומחליט מתי להעביר את התור הלאה. השכבה הגנרטיבית מנהלת את החלק החופשי בתוך מסגרות: טון מוגדר, הגבלת אורך תגובה, נושאים אסורים ותנאים לחזרה לתרחיש.

שלד טהור נתקל בתקרת זיהוי הביטויים — זאת הראתה בבירור ההיסטוריה של Jibo ורובוטים-מלווים אחרים. הקצה ההפוך לא טוב יותר: בלי שלד המערכת מאבדת חיזוי ובתחזוקה הופכת להתאמה אינסופית לכל דיאלוג חדש.

לכן התחזוקה של המערכת נבנית סביב השלד: ענפי תרחיש מתעדכנים על ידי עריכת העץ והרצה חוזרת של בדיקות, והשכבה הגנרטיבית — על ידי סט של דיאלוגים לבדיקה וניתוח סטיות.

ספקות טכניים שכדאי להסיר לפני ההתחלה

לפני ההתחלה הלקוח בודק שלושה דברים: היכן פיזית נמצאים נתוני הדיאלוגים, מה יקרה בעת אובדן קשר וכמה יקר לשנות את התנהגות הרובוט לאחר ההפעלה. להלן תשובות לנקודות אלה ולחיבור עם פלטפורמת הרובוט שכבר נבחרה.

מה יקרה בעת אובדן קשר?

תרחישי בסיס — ברכה, ניווט, תגובות טיפוסיות — מוטבעים במודול ועובדים באוטונומיה. לאחר שחזור הקשר המפגשים שהצטברו נטענים לניתוח הכללי. זו הידרדרות הדרגתית, לא כשל: הרובוט ממשיך לשרת אנשים.

האם המודל מתאמן על החומרים שלנו?

תסריטים, נהלים, הקלטות מפעילים וקטלוג שירותים אנו טוענים לבסיס ידע, לפיו המודל בונה תשובות. הרובוט נשען על הניסוחים שלכם ולא ממציא את מה שאין בחומרים.

כיצד מתעדכנים תרחישים ומתחברים ציוד?

תגובות וענפי התנהגות אנו מחזיקים בתצורות נפרדות: את התיקון אנו מפרסים על חלק מהצי, בודקים מדדים, ומחזירים אחורה ללא צריבה מחדש. מיקרופונים, מנועים וחיישנים נשארים מקוריים — עובדים דרך ממשקים סטנדרטיים של היצרן.

נדון במשימה ונחזור עם הערכה ותוכנית

כדי שניתוח המשימה יארך שיחה אחת, ולא שלוש, די להכין כמה מבואות — הם נלקחים מהעבודה השוטפת ולא דורשים מסמכים נפרדים. ככל שנתוני המוצא קונקרטיים יותר, כך הרכב השלבים והערכת הזמנים מדויקים יותר: בלעדיהם התוכנית יוצאת או מנופחת, או עם עבודות חסרות.

• תרחיש אינטראקציה. היכן הרובוט החברתי פוגש אדם — משרד קבלה, אולם, אזור המתנה — ומה עליו להספיק לעשות בדקות הראשונות של התקשורת.
• יכולות הפלטפורמה הנוכחיות. אילו חיישנים וערוצי פלט כבר זמינים, האם יש גמישות: מזה תלוי מה מוגדר ומה מפותח מאפס.
• נתונים חיצוניים. מערכות שהרובוט צריך לפנות אליהן לתשובה: בסיס ידע, לוח זמנים, שירות פנימי, מערכת חשבונאית.
• מגבלות האתר. רמת רעש, תאורה, רוחב מעברים, יציבות רשת — הם משפיעים ישירות על בחירת מודלי זיהוי דיבור ולוגיקת התנהגות.
• מי מקבל את התוצאה. אדם מצד הלקוח שמאשר "זה עובד"; אחרת הטמעת פיילוט תימשך על תיאומים בין מחלקות.
• קריטריון הצלחה. מדד שלפיו אנו שופטים את התוצאה: שיעור הדיאלוגים שהושלמו עד הסוף, מספר תקלות למאה פניות, זמן עד תשובה משמעותית.

לאחר הניתוח אנו חוזרים עם תוכנית עבודה: הרכב השלבים עם סדר ותלויות, הערכת זמנים לכל אחד, נקודות שבהן נדרש משוב מצדכם. בדרך כלל הצעד הראשון — הטמעת פיילוט על רובוט אחד ואתר אחד, שם נבדקים תרחישים ונאספת סטטיסטיקת כשלים, ורק אחר כך הרחבה לכלל המכשירים. תארו את המשימה — נחזור עם הערכה ותוכנית.