עלי סרפי, מנכ"ל ומייסד קובאנט - סדרת ראיונות

עלי סרפי, מנכ"ל ומייסד Kovant, הוא מנהל ותיק בתחום הטכנולוגיה והבינה המלאכותית שבסיסו בסטוקהולם, בעל רקורד של בנייה והרחבה של חברות בינה מלאכותית בצמיחה גבוהה. מאז הקמת Kovant בסוף 2024, הוא התבסס על ניסיון מעמיק באסטרטגיית בינה מלאכותית ארגונית, ביצוע לשוק והרחבה תפעולית. בעבר, הוא כיהן כסגן נשיא אסטרטגיה ב-Silo AI לאחר רכישתה על ידי AMD, שם היה אחראי על עיצוב אסטרטגיית בינה מלאכותית ארגונית וקידום אימוץ בקנה מידה גדול. מוקדם יותר בקריירה שלו, הוא שותף להקים את Combient Mix, הוביל את החברה דרך צמיחה מהירה ורכישה מוצלחת על ידי Silo AI, ומאז מילא תפקידי ייעוץ ודירקטוריון בחברות הזנק בתחום החינוך והבינה המלאכותית, המשקפים התמקדות עקבית בתרגום בינה מלאכותית מתקדמת להשפעה עסקית בעולם האמיתי.

קובנט היא חברת בינה מלאכותית ארגונית המתמקדת במתן אפשרות לארגונים לעבור משימוש ניסיוני בבינה מלאכותית לתהליכים עסקיים אוטונומיים ותפעוליים מלאים. החברה מפתחת פלטפורמה מבוססת סוכנים שנועדה לתזמר צוותים של סוכני בינה מלאכותית בתחומים תפעוליים מורכבים כגון רכש, שרשראות אספקה, תאימות ותפעול לקוחות. על ידי הדגשת פריסה מאובטחת ברמת ארגון וזמן ערך מהיר, קובנט ממצבת את עצמה כגשר בין שאיפה אסטרטגית לבינה מלאכותית לביצוע יומיומי, ועוזרת לארגונים גדולים להטמיע בינה מלאכותית ישירות בזרימות עבודה מרכזיות במקום להתייחס אליה ככלי עצמאי או פרויקט פיילוט.

הובלת יוזמות בינה מלאכותית מרכזיות ב-Spotify, הגדלת ויצאת מ-Combient Mix, ומאוחר יותר עיצבת את אסטרטגיית הבינה המלאכותית הארגונית ב-Silo AI לפני שייסדת את Kovant. אילו פערים או תסכולים ספציפיים נתקלת בהם בתפקידים אלה ששכנעו אותך שהגיע הזמן הנכון לבנות פלטפורמה ארגונית אוטונומית, וכיצד היסטוריה זו עיצבה את פילוסופיית העיצוב המרכזית של Kovant?

בתפקידיי הקודמים, המשיכו להופיע כמה פערים עקביים. ראשית, רוב כלי הבינה המלאכותית ה"אנכיים" שבויים למעשה במחסנית תוכנה אחת: הם עושים דבר אחד מעט טוב יותר בתוך גבול זה, אך מתקשים ברגע שזרימת עבודה צריכה לכסות מספר מערכות. במקביל, נתוני ארגון מפוזרים על פני כלים רבים, ופתרונות אוטומציה רבים פשוט לא יכולים להגיע אליהם. הוסיפו שנים של אינטגרציות נקודתיות ותקבלו ארכיטקטורת ספגטי קלאסית: המורכבות עולה, השינוי איטי יותר, וצוותים בסופו של דבר מבצעים אוטומציה של שלבים בודדים במקום לדמיין מחדש את זרימת העבודה מקצה לקצה. התוצאה היא שהחזר ההשקעה (ROI) מגיע לעתים קרובות לאט יותר - וקטן יותר - ממה שארגונים מצפים.

קובנט תוכנן כתגובה למציאות זו. הפילוסופיה המרכזית שלנו היא שסוכנים צריכים להתנהג יותר כמו עובדים: הם עובדים על פני כלים מרובים, הם "נשכרים" כדי לבצע עבודות, לא כדי להפוך רצף תסריטאי יחיד לאוטומטי. זו הסיבה שבגללה אינטגרציות ותזמור מובנים, ומדוע אנו מניחים שנתוני ארגון הם לעתים קרובות מבולגנים ולא מובנים - הם זקוקים לגישה אנושית יותר כדי להתמודד עם חריגים ועמימות.

אנו משתמשים בסוכני יסוד כדי להשיג מהירות וקנה מידה, תוך שמירה על ריבונות נתונים במרכז: ארגונים יכולים לגשת ולהשתמש בנתונים שלהם בצורה אופקית מבלי שהם יעזבו את שטחם.

קובנט ממצבת את עצמה כפלטפורמה ארגונית אוטונומית המסוגלת להפעיל פעולות ומחלקות שלמות באמצעות סוכני בינה מלאכותית. כיצד אתם מגדירים "אוטונומי" בהקשר ארגוני, וכיצד זה שונה מכלי האוטומציה והסוכנים שחברות כבר מתנסות איתם כיום?

בהקשר של ארגון, כשאנחנו אומרים "אוטונומי" אנחנו לא מתכוונים ל"ללא פיקוח". אנחנו מתכוונים שסוכני בינה מלאכותית יכולים לנקוט בפעולות אמיתיות מקצה לקצה ברחבי המבצע עם מטרות ברורות ועקבות בטיחות, והם יופנו לבני אדם כאשר נדרש פיקוח.

מה שמייחד את קובנט הוא סוכני הבסיס שלנו. במקום להפוך תהליך יחיד וקבוע לאוטומטי או לעקוב אחר רצף מובנה מראש, סוכני קובנט יכולים לעבוד כצוות (או נחיל) על פעולה באמצעות הוראות בלבד וסקירת תפעול שאנו מכנים תוכנית אב. הם לא נועדו למשימה אחת מצומצמת; הם משתפים פעולה כדי לפתור זרימות עבודה מורכבות, מסתגלים ככל שהתנאים משתנים ומעבירים לאנשים כאשר המצב דורש פיקוח.

לדוגמה, צוות של סוכן ניהול מלאי יכול לבצע את כל המשימות הבאות מבלי לבנות אותן מחדש מאפס, כולל: תקשורת עם ספקים באמצעות דואר אלקטרוני, ניטור רמות מלאי ואותות שאזלו במלאי, מעקב אחר משלוחים והזמנות רכש, עדכון סטטוסים בין מערכות, יצירת כרטיסי אי התאמה לאישור מתכנני מלאי, חלוקה מחדש של מלאי בין מחסנים ואיחוד דוחות מלאי.

אז השינוי הוא שבמקום "צ'אט פלוס כלים" או אוטומציות שבירות שמתקלקלות בקנה מידה גדול, ארגונים עוברים מבניית סוכנים להפעלתם בקנה מידה גדול.

למרות העניין העצום בבינה מלאכותית סוכנתית, ארגונים רבים נותרו תקועים במצב פיילוט. ממה שאתם רואים בפריסות אמיתיות, מהן הסיבות העיקריות לכך שחברות מתקשות לעבור מניסויים לייצור בקנה מידה גדול?

מה שאנחנו רואים הוא שרוב הארגונים לא נתקעים במצב פיילוט בגלל שהרעיון שגוי; הם נתקעים בגלל שהסביבה עוינת להרחבה.

החוסם הראשון הוא נוף הטכנולוגיה הארגוני המקוטע. זרימות עבודה משתרעות על פני מערכות רבות, נתונים נמצאים במקומות מרובים, וחיבור אמין של הכל יחד הוא קשה. ובינה מלאכותית סוכנתית נפרסת לעתים קרובות כתוסף לכלים קיימים, ולא כדרך לחשוב מחדש על האופן שבו זרימת העבודה צריכה לפעול מקצה לקצה.

ישנה גם בעיה אמיתית בארכיטקטורה ובנתונים. ספקי SaaS רבים עדיין מנסים לנעול נתונים, מה שיוצר אי-תאימות ומגביל את מה שסוכנים יכולים לעשות בפועל בין מערכות. וצוותים רבים ממעיטים בערכם של העובדות שרוב נתוני הארגון אינם מובנים (אימיילים, מסמכים, כרטיסים, קבצי PDF, יומני צ'אט). אם הגישה שלכם מניחה נתונים נקיים ומובנים, זמן הערך הופך ארוך, כואב וקשה לשכפול מעבר לפיילוט.

בקיצור: פרגמנטציה, נעילה ונתונים לא מובנים יוצרים גרר – ופיילוטים לעולם לא הופכים לייצור עד שמציאויות אלו מתוכננות עבורן.

אמינות מצוטטת לעתים קרובות כגורם המעכב הגדול ביותר לפריסת סוכני בינה מלאכותית בעולם האמיתי. מדוע כל כך הרבה מערכות סוכנים נכשלות ברגע שהן עוזבות סביבות מבוקרות, וכיצד הגישה של קובנט מפחיתה בעיות כמו הזיות והתנהגות בלתי צפויה?

חלק ממערכות הסוכנים נראות נהדר בהדגמות, ואז נכשלות בעולם האמיתי מכיוון שהסביבה מבולגנת ובלתי צפויה. הנתונים אינם שלמים או לא עקביים, מקרי קצה מופיעים כל הזמן (החזרים כספיים, מחלוקות, אישורים מיוחדים). זרימות עבודה משתרעות על פני כלים, פלטפורמות ואינטגרציות מרובות שמשתנות עם הזמן, וההרשאות משתנות. כאשר סוכן בינה מלאכותית מתבקש לטפל במשימה גדולה וניתן לו יותר מדי הקשר בבת אחת, הסיכון להזיות ולהתנהגות מוזרה עולה.

קובנט מצמצם זאת באופן עיצובי. הארכיטקטורה הייחודית שלנו מצמצמת את מרחב הבעיה, מרחב ההחלטות וההקשר שאיתם מודלים עובדים כדי להפחית הזיות. אנו גם מפרקים פעולות למשימות צרות וממוקדות עבור סוכנים ושלבים בודדים. זה הופך את ההתנהגות לחיזויה יותר, ומוסיף יכולת מעקב ובקרה למערכת ויכול לנהל הזיות טוב יותר. אנו יכולים לראות מה כל סוכן עשה, היכן החלה כשל, ולהתערב או להסלים בעת הצורך.

הזיות אינן נעלמות באופן קסום, אך על ידי הגבלת האחריות של כל סוכן והגבלת ההקשר עליו הוא יכול לפעול, נוכל להפחית את תדירותן ולהגביל את השפעתן. גישה זו של "משימה/הקשר מצומצמים" נתמכה גם בעבודה אחרונה של צוות המחקר של Nvidia, שמצא יתרונות דומים מהגבלת קבלת החלטות של סוכנים.

אחריות היא דאגה מרכזית כאשר סוכני בינה מלאכותית מתחילים לנקוט בפעולות אמיתיות במערכות עסקיות. כיצד יומני פעולות מפורטים משנים את השיח סביב אמון, תאימות וסיכון תפעולי?

בעזרת יומני פעולות מפורטים נוכל לראות מה קרה, מדוע זה קרה ומה קורה בהמשך.

היומנים המפורטים הופכים סוכן מבוט מסתורי שעובד בתוך המכונה למערכת שניתן לבדוק.

בקובנט, עם כל פריסה של סוכן בינה מלאכותית תהיה מפת סיכונים שהארגון יכול לפעול לפיה. יש לנו מערכת שמירה מובנית עבור בני אדם לפעולות מסוכנות, כלומר סוכנים יכולים לבצע משימות אלו רק אם אדם בודק ומאשר את ההחלטה. כל אלה נרשמים באותו אופן שבו מערכת רשומות נרשמת וניתנת למעקב.

אנו מאמינים שחשוב לשלב יומני פעולות עם פיקוח אנושי ומעקביות כדי למזער את הסיכון. משמעות הדבר היא שעדיין תקבלו את יתרונות המהירות והגודל של סוכנים המנהלים פעולות אמיתיות.

יש דיון גובר בשאלה האם סוכני בינה מלאכותית בכלל יכולים להיות מבוטחים בגלל קבלת ההחלטות האטומה שלהם. כיצד הפיכת זרימות עבודה של סוכנים לניתנות לביקורת ולהפעלה חוזרת מסייעת לטפל בבעיית "הקופסה השחורה" ופותחת את הדלת ליכולת ביטוח?

בעיית "הקופסה השחורה" היא מה שמקשה על ביצוע ביטוח. אם אי אפשר להראות בבירור מה סוכן עשה, מדוע הוא עשה זאת, ואילו בקרות היו קיימות, קשה לכל אחד, במיוחד למבטחים, לתמחר את הסיכון.

הגישה שלנו היא למעשה הרחבה של מערך האחריותיות בתשובה הקודמת. אנו מפרקים את היקף ההחלטות ואת השפעת הפעולות לחלקים קטנים יותר, כך שהמודל לא מקבל החלטה אחת ענקית ואטומה שיכולה להשפיע על כל המבצע. כל שלב הוא צר יותר, צפוי יותר וקל יותר להערכה.

לאחר מכן אנו מוסיפים יומני רישום מפורטים, יכולת תצפית ופיקוח אנושי. עבור ההחלטות החשובות והמשפיעות ביותר, אנו משתמשים בשומר סף אנושי כך שהסוכן יוכל להמשיך רק לאחר סקירה ואישור. זה יוצר נראות רבה יותר לגבי אופן הפעולה של תהליך העבודה בפועל.

הפיכת זרימות עבודה לניתנות לביקורת ולהפעלה חוזרת היא החלק האחרון. אם משהו משתבש, ניתן לשחזר את מה שקרה, לחקור אותו במהירות, לאמת תיקונים ולהדגים באיזו תדירות נדרש אישור אנושי והיכן נמצאים אמצעי ההגנה. במונחים של חיתום, זה הופך התנהגות מסתורית של בינה מלאכותית למשהו הקרוב יותר לסיכון תפעולי סטנדרטי.

עם יוזמות כמו קרן Agentic AI שמטרתן ליצור סטנדרטים משותפים למערכות סוכנויות, מהם לדעתך ההיבטים המבטיחים ביותר של מאמצים אלה, והיכן הם עדיין לוקים בחסר בפעילות ארגונית אמיתית?

סטנדרטיזציה היא בדרך כלל דבר טוב. AAIF יכול לעשות את העבודה הלא זוהרת אך החיונית של לגרום למערכות סוכנים לדבר באותה שפה, מה שאמור להקל על האינטגרציות ולהפחית את נעילת הספקים לאורך זמן.

אני נזהר לגבי נקודת המבט של מי מעצבת את הסטנדרטים. אם רוב העבודה מובלת על ידי יוצרי מודלים וחברות טכנולוגיה מתקדמות, קיים סיכון שה"סטנדרטים" יתאימו למה שהכי קל לבנות או להדגים, במקום למה שארגונים גדולים באמת צריכים כדי להפעיל סוכנים בצורה בטוחה מדי יום.

עבור פעילות ארגונית אמיתית, הפערים נוטים להיות פחות קשורים למחברים ויותר קשורים לשליטה: מה סוכן יכול לגשת אליו ולשנות, זרימות עבודה לאישור פעולות בעלות השפעה גבוהה, יומני רישום ניתנים לביקורת ותצפית כדי שצוותים יוכלו לנטר התנהגות, לחקור אירועים ולהוכיח עמידה בתקנות. ארגונים זקוקים גם לסטנדרטים מעשיים לפעולה במציאות מבולגנת: בדיקות מול מקרי קצה, טיפול במערכות משתנות ויכולת להשהות, להכיל או לבטל פעולות בבטחה בכלים מדור קודם וסביבות נתונים מוסדרות.

אז זהו כיוון מבטיח, אבל ההשפעה תהיה מוגבלת אלא אם כן דרישות הארגון ובקרות הסיכונים התפעוליים לא יטופלו כמעין מחשבה שלאחר מעשה.

קובנט כבר ייצרה הכנסות משמעותיות מארגונים נורדיים גדולים, תוך שהיא פעלה בעיקר בחשאיות. אילו סוגי פונקציות עסקיות או זרימות עבודה מוכיחים את עצמם כמוכנים ביותר לסוכני בינה מלאכותית אוטונומיים כיום?

ממה שראינו בפריסות אמיתיות, זרימות העבודה ה"מוכנות" ביותר כיום הן אלו המורכבות מעבודת צווארון לבן תגובתית: ניטור, מעקב, בדיקה, עדכון מערכות, טיפול בחריגים ושמירה על פעולות מתקדמות על פני כלים מרובים.

בייצור ובשרשראות אספקה ​​ארגוניות רחבות יותר, זה בא לידי ביטוי ב:

• רכש/מיקור חוץזמינות חומרי גלם, מקורות בר-קיימא, תהליכי תאימות, בחירת ספקים (כולל מקורות כפולים/מרובה), ניהול חוזים, ניהול סיכוני ספקים וניהול מכרזים/הצעות מחיר.
• הפקהתכנון קיבולת, תזמון ייצור, ניהול תחזוקה, ניהול איכות, ניהול צווארי בקבוק ומניעת הפסדים.
• אחסון: קבלה ובדיקה, ניהול מלאי, סבב מלאי (FIFO/FEFO), וספירה/ביקורת מחזורית.
• תחבורה / לוגיסטיקה: בחירת אמצעי תחבורה וספק, שחרור ממכס/תיעוד, מעקב ונראות, ניטור פליטות ותאימות סחר.
• מכירות ושירותיםזמינות מוצרים, מניעת חוסר מלאי, ניהול מכירות/החזרות, ניתוח התנהגות צרכנים, בנוסף לתחומים לאחר מכירה כמו תיקונים, מעקב אחר סוף חיי המוצר, תפעול מוסך וחוזי שירות.

כאשר ארגונים פורסים סוכני בינה מלאכותית בפעולות קריטיות, כיצד אתם ממליצים לאזן בין אוטונומיה לבין פיקוח אנושי כדי להבטיח שליטה מבלי להאט את הכול?

האיזון הוא אוטונומיה נשלטת. עליך לאפשר לסוכנים לפעול במהירות בעבודה בסיכון נמוך בתוך מעקות בטיחות ברורים, ולהסלים לבני אדם כאשר הפעולה חוצה סף סיכון מוגדר.

הרבה כשלים נובעים ממתן למודל יותר מדי היקף ויותר מדי הקשר בבת אחת. אני ממליץ לחלק פעולות להחלטות קטנות יותר ובעלות היקף מצומצם, שבהן לכל שלב יש הרשאות ברורות ורדיוס השפעה מוגבל. זה מפחית התנהגות בלתי צפויה ומקל על ניטור ושיפור הביצועים.

לאחר מכן משלבים שלושה דברים: יכולת צפייה, יומני פעולות ושמירה אנושית. כל מה שהסוכן עושה צריך להיות ניתן למעקב, כך שתוכלו לבדוק מה קרה ולחקור במהירות. עבור פעולות בעלות השפעה גבוהה או מסוכנות, מוסיפים שלב אישור אנושי לזרימת העבודה, כך שהסוכן יוכל להציע ולהתכונן, אך לבצע רק לאחר שאדם חותם.

זה שומר על קצב תנועה מהיר. אם כבר, זה רק מאט מעט בשלב הפיקוח האנושי, אבל זה חלק חשוב בתהליך. בני אדם לא תקועים בפיקוח על כל קליק, אבל הם עדיין בשליטה על הרגעים החשובים. התוצאה היא מהירות היכן שזה בטוח, ופיקוח היכן שזה נחוץ.

במבט קדימה, כיצד אתם צופים שתפקידם של סוכני בינה מלאכותית אוטונומיים יתפתח בתוך ארגונים גדולים בשנים הקרובות, ומה יבדיל בין חברות שמצליחות עם בינה מלאכותית סוכנית לבין אלו שמתקשות?

במהלך השנים הקרובות, סוכני בינה מלאכותית אוטונומיים יעברו מניסויים מעניינים לשכבת תפעול של ממש בתוך ארגונים גדולים. הם ישמשו לתפעול, שירות לקוחות, כספים ומשאבי אנוש. ככל שהאמינות, הממשל והפיקוח ישתפרו, נראה ארגונים עוברים מפיילוטים מבודדים להפעלת צוותי סוכנים בזרימות עבודה מקצה לקצה.

השינוי הגדול ביותר הוא שמהירות, זריזות, קנה מידה, יעילות ועלויות יהפכו למנוף תחרותי ישיר הרבה יותר. אני חושב ש"תנועת אובר" מגיעה עבור ארגונים. אלו שבאמת שולטים בבינה מלאכותית סוכנולוגית יוכלו לפעול בקצב גבוה באופן מהותי מאשר מפגרים, לכבוש שווקים מהר יותר ולהגיב לשינוי ללא העומס התפעולי הרגיל.

מה שמבדיל את המנצחים אינו רק פריסת הסוכנים, אלא פריסתם הטובה. אוטונומיה מבוקרת, יכולת תצפית חזקה ויומני פעולות, וארכיטקטורות שמצמצמות את טווח ההחלטות יהיו המפתח לכך. חברות שמתייחסות לבינה מלאכותית של סוכנים כיכולת תפעולית מרכזית, עם הבקרות, האינטגרציה והבעלות הנכונות, ישתמשו בה כדי לעשות יותר, לא פחות. זה ישחרר צוותים להתמקד בצמיחה ובחדשנות במקום לבלות את ימיהם קבורים בניהול. בקיצור, מהירות ויעילות קיצוניות הופכות ליתרון תחרותי אמיתי בקנה מידה ארגוני.

תודה על הראיון הנהדר, קוראים שרוצים ללמוד עוד צריכים לבקר קובנט.