כשמוסיפים לעסק סוכן AI שני, מי מתאם ביניהם?

השבוע כתב ארז גומנובסקי, מנכ"ל ומייסד חברת BAND, טור דעה ב-CTech שתיאר תופעה מוזרה אצל המפתחים המתקדמים ביותר באימוץ AI: יש להם כמה סוכני קוד רצים במקביל — אחד מתכנן, אחד כותב, אחד בודק — ובכל זאת חלק ניכר מהזמן שלהם עובר בהעתקת מידע בין הסוכנים. הסוכנים משתפרים, אבל האדם הופך יותר ויותר ל"ראוטר": מעביר הקשר, מחליט מה הולך לאן, שומר על שהמושבים השונים מסונכרנים.

זו לא תופעה ייחודית לפיתוח תוכנה. אותה הבעיה מתחילה להופיע בדיוק באותה צורה בעסקים שמוסיפים כלי AI אוטונומיים בתחומי שיווק, שירות ותפעול. כל סוכן יכול לבצע יותר עבודה בעצמו, אבל המערכות האלה פועלות כמשתתפות מבודדות, לא כצוות. וככל שמספרן גדל, צוואר הבקבוק של הפרודוקטיביות עובר מ"לבצע את העבודה" ל"לתאם אותה". עם סוכן אחד, זה כמעט לא מורגש. עם חמישה או עשרה, מישהו צריך להחליט איזו מערכת צריכה איזה פרט מידע, להעביר פלט מסוכן אחד למשנהו, ולהתחיל תהליך מחדש כשמושב מתאפס.

למה זה בדיוק המקום שבו אנחנו רואים פרויקטים נתקעים

זו לא נקודה תיאורטית. זה בדיוק מה שאנחנו בודקים בכל פרויקט יישום — ולמה. גומנובסקי כותב את זה במונחים של קוד, אבל האבחנה שלו נכונה במדויק גם לעסק קטן שמוסיף סוכן AI לשירות לקוחות, סוכן נפרד לניהול לידים, וכלי שלישי לתזמון פגישות: אם אף אחד לא מחליט מראש איך הם מדברים אחד עם השני — מי מקבל החלטה, מי רק ממליץ, מה קורה כשמידע סותר מגיע משני מקורות — הארגון לא קיבל אוטומציה. הוא קיבל קטגוריה חדשה של עבודת תיאום ידנית, רק שהפעם בעל העסק לא תכנן אותה מראש ולא תמחר אותה בזמן.

הנקודה המרכזית של גומנובסקי חדה: התגובה הטבעית היא לבנות "אורקסטרציה" — להגדיר מראש תהליך קבוע, מי הולך ראשון ומה קורה אחר כך. זה עובד היטב כשהנתיב צפוי. אבל הרבה מהמשימות שבשבילן בכלל רוצים סוכני AI שוות דווקא כי הנתיב לא ידוע מראש. סוכן שמתכנן קמפיין עשוי לגלות שהוא צריך עזרה מסוכן שמנתח נתונים. סוכן שירות לקוחות עשוי להזדקק להעברה לסוכן חיוב. ברגע שזה קורה, הבעיה מתחילה להידמות יותר לניהול צוות מאשר לאוטומציה של רשימת משימות.

מה שני מנהלי אבטחת מידע ישראלים אומרים על אותה בעיה, מזווית אחרת

באותו שבוע ממש, שני מנהלי אבטחת מידע בחברות ישראליות דיברו ב-CTech על אותה בעיה בדיוק, רק מהזווית של ניהול סיכונים. ניר משעל, CISO ב-Orca Security, אמר שהפער בין הקצב שבו ארגונים מאמצים AI אגנטי לבין הבשלות של הממשל עליו הוא "הסיכון הכי גדול שאני רואה בתעשייה היום — והוא רק מתרחב". אלי חכימוב, CISO ב-Immunai, תיאר תופעה מקבילה בשם "כוח עבודה צללים": עובדים מחברים כלי AI למערכות החברה בלי שאף אחד באבטחה יודע, וכל חיבור כזה הוא זהות חדשה עם הרשאות אמיתיות שאין למי לפקח עליהן.

שני הראיונות מדברים על אבטחה, לא על תפעול — אבל האבחנה זהה: הבעיה לא היא שהטכנולוגיה לא עובדת. הבעיה היא שאף אחד לא הגדיר מראש מי אחראי, מה מותר, ומה קורה כשמשהו משתבש. משעל תיאר את זה כך: "הפחד שלי הוא לא מודל זדוני; הפחד שלי הוא אלפי סוכנים בכוונות טובות, עם הרשאות קבועות וכלים משורשרים, בלי בעלים." זו בדיוק אותה תבנית שגומנובסקי מתאר אצל צוותי פיתוח — רק עם מסגור של סיכון במקום פרודוקטיביות.

מה זה אומר בפועל לעסק שרק מתחיל

הנטייה הטבעית היא לדחות את השאלה הזו עד שיש כמה סוכנים בפועל. זו בדיוק הטעות. ברגע שיש שני כלי AI אוטונומיים שנוגעים באותו לקוח, באותם נתונים, או באותה שיחה — השאלה "מי מתאם ביניהם" כבר רלוונטית, גם אם עדיין נראה כמו רק שני כלים נפרדים.

בפועל, זה אומר לשאול לפני שמוסיפים כלי שני, לא אחרי:

• מי הבעלים של כל סוכן — מי האדם שאחראי אם הוא טועה?
• מה קורה כשמידע סותר מגיע משני כלים בו-זמנית — מי מכריע?
• איזו החלטה חייבת עדיין לעבור דרך בן אדם, ואיזו לא?

הנקודה האחרונה היא הכי חשובה, וגם הכי לא אינטואיטיבית: הפתרון הוא לא להוריד בני אדם מהתמונה יותר, אלא לשמור אותם בדיוק במקום שבו יש להם ערך אמיתי — קבלת החלטה במצב לא ודאי, אישור פעולה רגישה, זיהוי כשמשהו מתנהג לא כרגיל — ולהוריד מהם רק את העבודה הפקידותית של להעביר הקשר ידנית בין מערכות שלא בנויות לדבר אחת עם השנייה.

הטענה שכדאי להודות בה

ההגנה הכי קלה כאן היא לטעון שזה בעיה לחברות גדולות בלבד, לא לעסק עם חמישה עובדים. יש בזה קצת אמת: ככל שיש פחות כלים אוטונומיים בו-זמנית, פחות סביר שיתנגשו. אבל זה בדיוק למה זה הזמן הנכון להגדיר את זה — לפני שיש שלושה כלים ולא רק אחד, ולפני שהתשובה ל"מי אחראי אם זה משתבש" היא "לא בדקנו". ההגדרה הזו לוקחת שעה אחת של שיחה בתחילת פרויקט. לתקן אותה אחרי שהיא כבר נתקעה לוקח הרבה יותר.

זה בדיוק מה שאנחנו בודקים לפני שאנחנו כותבים שורת קוד אחת בפרויקט יישום: לא רק "מה הסוכן יעשה", אלא "מי הבעלים שלו, מה קורה כשהוא נתקל במשהו לא צפוי, ואיפה בדיוק בן אדם עדיין חייב להיות בתמונה".