דוני וייט, מנכ”ל ומייסד-שותף של Satisfi Labs – סדרת ראיונות

Satisfi Labs, חברת AI לשיחות, הוקמה ב-2016. ההצלחה המוקדמת הגיעה מעבודתה עם הניו יורק מטס, מייסיס, וה-US Open, ואיפשרה גישה קלה למידע שלרוב אינו זמין באתרים.

דוני בילה 15 שנים ב-Bloomberg לפני שנכנס לעולם הסטארט-אפים, והוא בוגר תואר שני במנהל עסקים מאוניברסיטת קורנל ותואר ראשון מקולג’ ברוך. תחת הנהגתו של דוני, Satisfi Labs חוותה צמיחה משמעותית בתחומי הספורט, הבידור והתיירות, וקיבלה השקעות מ-Google, MLB, ו-Red Light Management.

אתה היית ב-Bloomberg במשך 14 שנים כשלראשונה הרגשת את הקיץ היזמי. למה הייתה היוזמות פתאום על המפה שלך?

במהלך שנתי הסטודנטית, הגשתי מועמדות לעבודה כקבלן ב-Bloomberg. כשהתקבלתי, אמרתי לעמיתים שאם הם ילמדו אותי, אני יכול ללמוד מהר. עד סוף השנה, הייתי עובד מלא והעברתי את כל הקורסים שלי לשיעורי ערב, כדי שאוכל לעשות את שניהם. במקום להשתתף בטקס סיום הלימודים בגיל 21, ביליתי את הזמן ההוא בניהול צוותי. מנקודה זו, הייתי מועדף לעבוד במערכת מבוססת מריטוקרטיה, וקודמתי מספר פעמים. עד גיל 25, הייתי מנהל את המחלקה שלי. משם, עברתי לניהול אזורי, ואחר כך לפיתוח מוצר, עד שלבסוף הייתי אחראי על המכירות בכל אמריקה. ב-2013, התחלתי לשאול אם אני יכול לעשות משהו גדול יותר. הלכתי למספר ראיונות בחברות טכנולוגיה צעירות, ואחד המייסדים אמר לי: “אנחנו לא יודעים אם אתה טוב או ש-Bloomberg טוב.” היה ברור שמשהו צריך להשתנות, ושישה חודשים לאחר מכן הייתי סמנכ”ל המכירות בסטארט-אפ הראשון שלי, Datahug. זמן קצר לאחר מכן, הוצע לי להצטרף לקבוצת משקיעים שרצו לשבש את Yelp. ב-2016, הסכמנו על חזון חדש, והקמתי את Satisfi Labs עם אותם משקיעים.

האם תוכל לשתף את סיפור המקור של Satisfi Labs?

הייתי במשחק בייסבול ב-Citi Field עם רנדי, ה-CTO ומייסד-שותף הנוכחי של Satisfi, כששמעתי על אחד המומחיות שלהם, בייקון על מקל. הלכנו סביב האולם ושאלנו את הצוות על זה, אבל לא מצאנו אותו בשום מקום. תוצאתו של דבר הייתה שזה היה מוסתר בקצה אחד של האצטדיון, מה שהוביל להבנה שזה היה הרבה יותר נוח לשאול את הצוות ישירות דרך צ’אט. זה היכן שנולדה הרעיון הראשון שלנו. רנדי ואני שנינו באים מרקע של פיננסים וסחר אלגוריתמי, מה שהוביל אותנו לקחת את המושג של התאמת בקשות עם תשובות, ולבנות את שיטת ה-NLP שלנו לשאילתות היפר-ספציפיות שישאלו במיקומים. הרעיון המקורי היה לבנות בוטים אינדיבידואליים, שכל אחד מהם יהיה מומחה בתחום מסוים, במיוחד ידע שאינו נגיש בקלות באתר. משם, מערכתנו תהיה “מנצח” שיכול לגשת לכל בוט כשנדרש. זו הארכיטקטורה המקורית שעדיין בשימוש היום.

Satisfi Labs עיצבה את מנוע ה-NLP שלה והייתה על סף פרסום הודעה לעיתונות כש-OpenAI שיבשה את הטכנולוגיה שלכם עם השקת ChatGPT. האם תוכל לדבר על תקופה זו וכיצד זה אילץ את Satisfi Labs לשנות את עסקיה?

היינו אמורים לפרסם הודעה לעיתונות להכרזה על שדרוג ה-NLP המבוסס קונטקסט, ב-6 בדצמבר 2022. ב-30 בנובמבר 2022, OpenAI הכריזה על ChatGPT. ההכרזה על ChatGPT שינתה לא רק את הדרך שלנו, אלא גם את העולם. לתחילה, כולנו, כמו כולם, מירוצים להבין את הכוח והגבולות של ChatGPT, ולהבין מה זה אומר עבורנו. מהר מאוד הבנו שמערכת ה-NLP הקונטקסטואלית שלנו לא מתחרה ב-ChatGPT, אלא יכולה לשפר את חוויית LLM. זה הוביל להחלטה מהירה להפוך לשותפים של OpenAI. מכיוון שמערכתנו החלה עם הרעיון של הבנה ותשובה לשאילתות ברמה גרנולרית, היינו מסוגלים לשלב את עיצוב “מנצח הבוט” ושבע שנים של נתוני כוונה, כדי לשדרג את המערכת ולשלב LLM.

Satisfi Labs השיקה לאחרונה פטנט למערכת תגובה LLM קונטקסטואלית, מהו זה בדיוק?

ביולי, השיקנו את מערכת התגובה LLM הקונטקסטואלית. המערכת החדשה משלבת את הכוח של מערכת התגובה הקונטקסטואלית עם יכולות LLM, כדי לחזק את כל מערכת המנוע לתשובות. הטכנולוגיה החדשה משלבת יכולות LLM ברחבי הפלטפורמה, החל משיפור ניתוב כוונה, דרך יצירת תשובות ואינדקס כוונה, שגם מניע את יכולות הדיווח הייחודיות. הפלטפורמה לוקחת את AI השיחות מעבר לבוט השיחות המסורתי, על ידי ניצול הכוח של LLM כמו GPT-4. פלטפורמתנו מאפשרת למותגים לתת תשובות עם תשובות AI יוצרות או תשובות מוכתבות, בהתאם לצורך בבקרה על התשובה.

האם תוכל לדבר על הנתק הנוכחי בין רוב אתרי החברות לפלטפורמות LLM, במונחים של מתן תשובות עם המותג?

ChatGPT מאומנת להבין מגוון רחב של מידע, ולכן אין לה את רמת האימון הגרנולרית הדרושה כדי לתת תשובות תעשייתיות עם רמת ספציפיות שמותגים רבים מצפים. בנוסף, דיוק התשובות ש-LLM מספקות הוא רק כטוב כמו הנתונים שסופקו. כשאתה משתמש ב-ChatGPT, היא מקור מידע מרחבי האינטרנט, שיכול להיות לא מדויק. ChatGPT לא מעדיפה נתונים ממותג מעל נתונים אחרים. במהלך שבע השנים האחרונות, שירתנו תעשיות שונות, וצברנו תובנות רבות על מיליוני השאילתות שלקוחות שואלים כל יום. זה איפשר לנו להבין כיצד לכוונן את המערכת עם יותר הקשר לתעשייה, ולספק יכולות דיווח רובוסטיות וגרנולריות, שהן חיוניות נוכח עליית ה-LLM. בעוד LLM יעילים בהבנת כוונה ויצירת תשובות, הם לא יכולים לדווח על השאילתות שנשאלות. באמצעות שנים של נתוני כוונה נרחבים, יצרנו דיווח מותאם באופן תקני, דרך מערכת האינדקס כוונה.

מהו התפקיד של בלשנים בשיפור היכולות של טכנולוגיות LLM?

תפקידו של מהנדס הפרומפטים התפתח עם טכנולוגיה זו, שדורשת מאדם לע