ืื ืืืื ืืขื
ืกืืื ื-AI ืฉืื ืืืืข ืืื – ืืื ืืืื ืืืื
“אנחנו צריכים להצטרף אל הורי לנסיעה לאירלנד” — הצהרה זו, שנראית תמימה, שלחה רעדים לאורך עמודי השדרה שלי.
היי ואשתי נוסעים באופן נרחב. אנחנו יודעים מה אנחנו אוהבים. הוריה של אשתי, מצד שני, נוסעים לעיתים רחוקות יותר ממאתיים מייל מביתם ויצאו מהמדינה ביחד פעם אחת בלבד — לחתונה שלנו.
כדי להוסיף עוד, הנסיעה הזו הייתה מתנה לחג המולד מחמיי לחמותי, כדי שתוכל ללכת ולבקר את משפחתה, אולי בפעם האחרונה.
הייתי יכול לראות את הנסיעה הזו מתפתחת במילה אחת: אסון. איך בעולם נוכל לשלב חוויות וציפיות שונות מאוד כך שנוכל להיות בנסיעה נהדרת — או לפחות לא לשנוא זה את זה בסוף.
כמו כל טכנולוגי מכובד, הגעתי לטכנולוגיה — במיוחד ל-AI.
אבל מה שלא ציפיתי לו הוא שניסויוני הקטן בקידוד ויברציות של אפליקציה לתכנון נסיעות משפחתית בעלת AI ילמד אותי כמעט הכל שאני צריך לדעת על יישום AI ב-IT של חברות.
ככל שאתה מאכיל את ה-AI, הוא הופך לטיפש יותר
רוב הפריסות של AI בחברות עוקבות אחר דפוס צפוי. ארגונים מתחילים במתן הוראות לסוכן וחיבורו למקור מידע, האם זה RAG (Retrieval-Augmented Generation) , בסיס ידע קיים, או אפילו שרת MCP. הבא, הוסף שכבה של LLM ותן לו לעשות את דברו.
הבעיה שם היא ש-LLM בליבם הם טיפשים. הם לא יודעים איך ליישם את כל המידע שיש להם ברשותם, כך שהם נוטים לטפל בכל פרט מידע באותה מידה. בן אדם צריך להוסיף שכבה של קירור, ללמד את המודל מה חשוב ומה לא. בלי קירור, אתה מקבל AI שיודע הכל ולא מבין כלום.
שלושה סוגים של זיכרון שחשובים
קירור AI יעיל בחברות משמעו להיטיב את שלושה סוגים ספציפיים של זיכרון.
הראשון הוא זיכרון מוסדי, שיכול להיראות בסיסי מאוד בתחילה. כאשר מישהו אומר “שירותים פיננסיים”, הסוכן יודע שהם מתכוונים למחלקת השירותים הפיננסיים של החברה ולא לתעשייה כולה. זה הופך לידע ארגוני מתמשך מלא בהגדרות, העדפות ונוהגים שלא משתנים לעיתים קרובות. ככל שזה מתרחב לתוך ידע מוסדי סביב עדיפויות אסטרטגיות, יוזמות מפתח ודינמיקה ארגונית, הוא הופך למקור עשיר של הקשר מוסדי.
הבא הוא היסטוריית פעולות, שמתמקד בהחלטות משמעותיות, משימות ואירועים. כאשר כרטיס שירות מוגש או מערכת מותקנת, הסוכן מכיר את הפעולה הספציפית הזו ורושמת אותה להיסטוריית הפעולות. זה הופך לרשום היסטורי שמחבר את ההקשר הארגוני.
לבסוף, יש את ההקשר השיחתי הקצר-טווח. חשבו על זה כעל האינטראקציה מרגע לרגע עם סוכן. זה שימושי ברגע, אבל נוטה לאבד את הרלוונטיות במהירות.
ביחד, שלושה סוגים אלו של זיכרון יוצרים את מערכת המשקולות שחסרה למודלים הגנריים של AI. עכשיו, כאשר מישהו מספר לסוכן על העסק, הם מסווגים ומיישמים את כל הזיכרון הזה ומקרינים את המידע החשוב. זה יוצר את הליבה של מה ש-AI אמור לספק: לא רק נתוני תחום, אלא גם שיפוט תחום.
מה נראה זיכרון מקורר בקנה מידה
אבל מספיק עם המסגרת, מה זה נראה בפועל? זה מה שגילינו בבניית סוכנים אלו בעצמנו.
אחת התרחישים הנפוצים ב-IT הוא שליחת כרטיס בעיה לסוכן תמיכה. נניח שאימייל שלך לא עובד, כך שאתה כותב תיאור של הבעיה וממתין לסוכן לבדוק ולהציע פתרון.
אבל עם זיכרון מקורר שפועל לטובתך, תהליך טוב יותר יכול לכלול לקיחת צילום מסך שמראה את שגיאת האאוטלוק והעלאתו לסוכן. עכשיו הסוכן (1) שואב מזיכרון מוסדי כדי להבין את סביבת העבודה שלך; (2) בודק את היסטוריית הפעולות לאירועים קשורים; ו-(3) מיישם שיפוט הקשרי לפתרון ספציפי, לא רק תשובה גנרית.
התוצאה היא סוכן אינטליגנטי שלא צריך לנחש את התשובה על סמך צילום מסך. הוא עכשיו באמת שואל, בוחן את כל המידע הנוכחי ומספק תשובה יותר שימושית. הסוכן יכול אפילו להתרחב ל- אפקט רשת או שווארם, בוחן את משתמשים אחרים במערכת כדי לראות אם בעיית האאוטלוק היא רק שלך או בעיה ברמה הארגונית.
ההקשרה של ההיסטוריה או הזיכרון היא המשפיע. אם אתה לא מקרר את הזיכרון שלך ביעילות, אתה תיפול מאחורי אלו שכן. זה חשוב להיות בעל ארכיטקטורה שיודעת איך לנהל את הנתונים האלה במהלך הזמן ולהבין מה לשמור, מה להציג ומה לוותר.
חזרה לנסיעה
איך השתנתה התפיסה שלי לגבי AI ב-IT של חברות עם התכנן הנסיעות שלי בעל ה-AI?
מה שבניתי היה אפליקציה שפעלה כמו מתווך נסיעות אישי והתחילה ב”ראיון” עם כל משתתף. כולנו הסברנו מה חשוב לנו בנסיעה: מהו חובה ומה אנחנו יכולים לדלג. חשוב יותר, היא שאלה אותנו על “למה” — למה משהו חשוב לנו, מה הוא אומר לנו.
באמצעות מידע זה, היא עשתה שני דברים. ראשית, היא קיררה תוכנית נסיעה שהייתה מאוזנת כדי לספק משהו לכולם — כולנו יכולנו לראות את רצונותינו והעדפותינו מיוצגים בתוכנית שהיא הפיקה.
אבל, כמובן, תוכנית הנסיעה הראשונית הייתה רק טיוטה. היו עוד הרבה שאלות לענות.
וזה היה כאשר הקסם האמיתי קרה. שאלנו את הסוכן על מלון או אטרקציה או נסיעה, והתשובות שנתן לנו היו מעושרות בהקשר של מצבנו הייחודי: “זו תהיה נסיעה ארוכה לילדים, אבל חמיי היה אוהב את הטירה (ואת בית הקפה הייחודי לידו) — וזה יכול להיות רק המקום לאשתי לקבל מסאז’.
מלא בהבנה עשירה של מה חשוב לנו, היא יכלה לעזור לנו לתכנן ולשפר את הנסיעה בדרך שאני לא חושב שהייתה אפשרית בשום צורה אחרת.
וזה היה באחד הרגעים הראשונים שהבנתי מה שאנחנו צריכים לבנות עבור לקוחותינו: מערכות אינטליגנטיות שהיו כה עמוסות בהקשר ארגוני, טרנסאקציוני ואישי, שכל תשובה וכל אינטראקציה יהיו כמו טביעת אצבע: ייחודיות לרגע ולאינטראקציה הזו, ויספקו סוג של ערך שפשוט לא יכול לקרות בשום צורה אחרת.
