דוני ווייט, מנכ"ל ומייסד שותף של Satisfi Labs - סדרת ראיונות

Satisfi Labs, שנוסדה ב-2016, היא חברת AI מובילה לשיחות. ההצלחה המוקדמת הגיעה מעבודתה עם ניו יורק מטס, מייסי'ס ואליפות ארצות הברית הפתוחה, המאפשרת גישה קלה למידע שלעתים קרובות אינו זמין באתרי אינטרנט.

דוני בילה 15 שנים בבלומברג לפני שנכנס לעולם הסטארט-אפים ובעל תואר MBA מאוניברסיטת קורנל ותואר ראשון ממכללת ברוך. תחת הנהגתו של דוני, מעבדות Satisfi ראתה צמיחה משמעותית במגזרי הספורט, הבידור והתיירות, וקיבלה השקעות מגוגל, MLB ו-Red Light Management.

היית בבלומברג 14 שנה כשהרגשת לראשונה את הגירוד היזמי. למה להיות יזם היה פתאום על הרדאר שלך?

במהלך השנה הראשונה שלי בקולג', הגשתי מועמדות לעבודה כפקידת קבלה בבלומברג. ברגע שנכנסתי רגלי בדלת, אמרתי לעמיתיי שאם הם מוכנים ללמד אותי, אוכל ללמוד מהר. בשנה האחרונה שלי, הייתי עובד במשרה מלאה והעברתי את כל השיעורים שלי לשיעורי לילה כדי שאוכל לעשות את שניהם. במקום ללכת לסיום המכללה שלי בגיל 21, ביליתי את הזמן הזה בניהול הצוות הראשון שלי. מנקודה זו ואילך, התמזל מזלי לעבוד במריטוקרטיה והועליתי מספר פעמים. עד גיל 25 ניהלתי את המחלקה שלי. משם עברתי לניהול אזורי ולאחר מכן לפיתוח מוצר, עד שבסופו של דבר עסקתי במכירות בכל יבשת אמריקה. עד 2013, התחלתי לתהות אם אני יכול לעשות משהו גדול יותר. הלכתי לכמה ראיונות בחברות טכנולוגיה צעירות ומייסד אחד אמר לי, "אנחנו לא יודעים אם אתה טוב או בלומברג טוב". זה היה אז שידעתי שמשהו חייב להשתנות וכעבור שישה חודשים הייתי סמנכ"ל המכירות בסטארטאפ הראשון שלי, Datahug. זמן קצר לאחר מכן, גויסתי על ידי קבוצת משקיעים שרצו לשבש את Yelp. בעוד ש-Yelp עדיין טוב וטוב, ב-2016 התיישרנו עם חזון חדש והקמתי יחד עם אותם משקיעים את Satisfi Labs.

האם תוכל לשתף את סיפור ההתחלה מאחורי Satisfi Labs?

הייתי במשחק בייסבול בסיטי פילד עם רנדי, ה-CTO והמייסד הנוכחי של Satisfi, כששמעתי על אחת מההתמחויות שלהם, בייקון על מקל. הסתובבנו במתחם ושאלנו את הצוות על כך, אבל לא מצאנו אותו בשום מקום. מסתבר שהוא הוחבא בקצה אחד של האצטדיון, מה שגרם להבנה שהיה הרבה יותר נוח לברר ישירות עם הקבוצה בצ'אט. כאן נולד הרעיון הראשון שלנו. שנינו רנדי ואני באים מרקע פיננסי ואלגוריתמי, מה שהוביל אותנו לקחת את הרעיון של התאמת בקשות לתשובות כדי לבנות NLP משלנו עבור פניות היפר-ספציפיות שישאלו במקומות. הרעיון המקורי היה לבנות בוטים בודדים שכל אחד מהם יהיה מומחים בתחום ידע מסוים, במיוחד ידע שאינו נגיש בקלות באתר. משם, למערכת שלנו יהיה "מוליך" שיוכל להקיש על כל בוט בעת הצורך. זוהי ארכיטקטורת המערכת המקורית שעדיין נמצאת בשימוש היום.

Satisfi Labs עיצבה מנוע NLP משלה והייתה על סף פרסום הודעה לעיתונות כאשר OpenAI שיבשה את ערימת הטכנולוגיה שלך עם שחרורו של ChatGPT. האם אתה יכול לדון בפרק הזמן הזה וכיצד זה אילץ את Satisfi Labs להפעיל את העסק שלה?

הייתה לנו הודעה לעיתונות מתוכננת להכריז על שדרוג ה-NLP מבוסס ההקשר המבוסס על פטנט ל-6 בדצמבר 2022. ב-30 בנובמבר 2022, OpenAI הכריזה על ChatGPT. ההכרזה על ChatGPT שינתה לא רק את מפת הדרכים שלנו אלא גם את העולם. בתחילה, אנחנו, כמו כולם, מיהרנו להבין את הכוח והגבולות של ChatGPT ולהבין מה זה אומר עבורנו. עד מהרה הבנו שמערכת ה-NLP ההקשרית שלנו לא מתחרה ב-ChatGPT, אלא יכולה למעשה לשפר את חווית ה-LLM. זה הוביל להחלטה מהירה להפוך לשותפים ארגוניים של OpenAI. מאז שהמערכת שלנו התחילה ברעיון של הבנה ותשובה לשאלות ברמה פרטנית, הצלחנו לשלב את תכנון המערכת של "bot conductor" ושבע שנים של נתוני כוונות לשדרוג המערכת לשילוב LLMs.

Satisfi Labs השיקה לאחרונה את א פטנט עבור Context LLM Response System, מה זה ספציפית?

ביולי הקרוב, חשפנו את מערכת ה-Context LLM Response System המוגשת לפטנט. המערכת החדשה משלבת את העוצמה של מערכת התגובה ההקשרית שלנו ממתינה לפטנט עם יכולות מודל שפה גדול כדי לחזק את כל מערכת ה-Answer Engine. טכנולוגיית Context LLM החדשה משלבת יכולות מודל שפה גדול בכל הפלטפורמה, החל משיפור ניתוב כוונות ועד ליצירת תשובות ואינדקס כוונות, מה שמניע גם את יכולות הדיווח הייחודיות שלה. הפלטפורמה לוקחת AI שיחה מעבר לצ'אטבוט המסורתי על ידי רתימת הכוח של LLMs כגון GPT-4. הפלטפורמה שלנו מאפשרת למותגים לענות גם עם תשובות בינה מלאכותית או תשובות כתובות מראש בהתאם לצורך בשליטה בתגובה.

האם אתה יכול לדון בניתוק הנוכחי בין רוב אתרי החברה ופלטפורמות LLM במתן תשובות על המותג?

ChatGPT הוכשר להבין מגוון רחב של מידע ולכן אין לו את רמת ההדרכה המפורטת הדרושה כדי לענות על שאלות ספציפיות לתעשייה ברמת הספציפיות שרוב המותגים מצפים לה. בנוסף, הדיוק של התשובות שמספקות LLM טוב רק כמו הנתונים שסופקו. כשאתה משתמש ב-ChatGPT, זה מוציא נתונים מהאינטרנט, מה שעלול להיות לא מדויק. ChatGPT אינו נותן עדיפות לנתונים ממותג על פני נתונים אחרים. אנו משרתים תעשיות שונות במהלך שבע השנים האחרונות, וקיבלנו תובנות חשובות לגבי מיליוני השאלות ששואלים לקוחות מדי יום. זה איפשר לנו להבין כיצד לכוון את המערכת בהקשר רב יותר לכל תעשייה ולספק יכולות דיווח כוונות חזקות ומפורטות, שהן חיוניות בהתחשב בעלייתם של מודלים שפות גדולים. בעוד ש-LLMs יעילים בהבנת הכוונה ויצירת תשובות, הם לא יכולים לדווח על השאלות שנשאלו. בעזרת שנים של נתוני כוונות נרחבים, יצרנו ביעילות דיווח סטנדרטי באמצעות מערכת אינדקס הכוונות שלהם.

איזה תפקיד ממלאים בלשנים בשיפור היכולות של טכנולוגיות LLM?

התפקיד של מהנדס מהיר הופיע עם הטכנולוגיה החדשה הזו, המחייבת אדם לעצב ולחדד הנחיות המעוררות תגובה ספציפית מה-AI. לבלשנים יש הבנה רבה במבנה השפה כמו תחביר וסמנטיקה, בין היתר. לאחת ממהנדסי הבינה המלאכותית המצליחים ביותר שלנו יש רקע בלשנות, מה שמאפשר לה להיות יעילה מאוד במציאת דרכים חדשות וניואנסיות להניע את הבינה המלאכותית. לשינויים עדינים בהנחיה יכולים להיות השפעות עמוקות על מידת יצירת התשובה המדויקת והיעילה, מה שעושה את כל ההבדל כאשר אנו מטפלים במיליוני שאלות על פני מספר לקוחות.

איך נראה כוונון עדין בקצה האחורי?

יש לנו מודל נתונים קנייני משלנו שבו אנו משתמשים כדי לשמור על ה-LLM בקנה אחד. זה מאפשר לנו לבנות גדרות משלנו כדי לשמור על ה-LLM תחת שליטה, לעומת הצורך לחפש גדרות. שנית, אנחנו יכולים למנף כלים ותכונות שפלטפורמות אחרות מנצלות, מה שמאפשר לנו לתמוך בהם בפלטפורמות שלנו.

כוונון עדין של נתוני אימון ושימוש ב-Reforcement Learning (RL) בפלטפורמה שלנו יכולים לעזור להפחית את הסיכון למידע מוטעה. כוונון עדין, בניגוד לשאילתה של בסיס הידע לעובדות ספציפיות להוספה, יוצר גרסה חדשה של ה-LLM שמאומנת על הידע הנוסף הזה. מצד שני, RL מאמן סוכן עם משוב אנושי ולומד מדיניות כיצד לענות על שאלות. זה הוכח כמוצלח בבניית דגמי טביעת רגל קטנים יותר שהופכים למומחים במשימות ספציפיות.

האם אתה יכול לדון בתהליך להטמעת לקוח חדש ושילוב פתרונות AI לשיחה?

מכיוון שאנו מתמקדים ביעדים וחוויות כגון ספורט, בידור ותיירות, לקוחות חדשים נהנים מאלה שכבר נמצאים בקהילה, מה שהופך את ההצטרפות למטוס לפשוטה מאוד. לקוחות חדשים מזהים היכן נמצאים מקורות הנתונים העדכניים ביותר שלהם, כגון אתר אינטרנט, ספרי עזר לעובדים, בלוגים וכו'. אנו קולטים את הנתונים ומאמנים את המערכת בזמן אמת. מכיוון שאנו עובדים עם מאות לקוחות באותו ענף, הצוות שלנו יכול לספק במהירות המלצות לגבי התשובות המתאימות ביותר לתשובות כתובות מראש לעומת תשובות שנוצרו. בנוסף, הקמנו זרמים מודרכים כמו מאתר המזון והמשקאות הדינמי שלנו כך שלקוחות לעולם לא יצטרכו להתמודד עם בונה בוטים.

Satisfi Labs עובדת כיום בשיתוף פעולה הדוק עם קבוצות וחברות ספורט, מה החזון שלך לעתיד החברה?

אנו רואים עתיד שבו יותר מותגים ירצו לשלוט בעוד היבטים של חווית הצ'אט שלהם. זה יביא לעלייה בצורך של המערכת שלנו לספק יותר גישה ברמת המפתחים. אין זה הגיוני שמותגים יעסיקו מפתחים שיבנו מערכות בינה מלאכותית לשיחות משלהם, מכיוון שהמומחיות הדרושה תהיה מועטה ויקרה. עם זאת, כשהמערכת שלנו מזינה את הקצה העורפי, המפתחים שלהם יכולים להתמקד יותר בחוויית הלקוח ובמסע על ידי שליטה רבה יותר בהנחיות, חיבור נתונים קנייניים כדי לאפשר התאמה אישית רבה יותר וניהול ממשק המשתמש של הצ'אט לצרכי משתמש ספציפיים. Satisfi Labs יהיו עמוד השדרה הטכני של חוויות השיחה של מותגים.

תודה על הראיון הנהדר, קוראים שרוצים ללמוד עוד צריכים לבקר מעבדות Satisfi.