משבר הזיכרון של הבינה המלאכותית: אנחנו בונים עידן דיגיטלי חושך

מיליוני סוכני בינה מלאכותית נכנסים למערכות ייצור. כמעט אף אחד מהם אינו יכול לחלוק ניסיון תפעולי. זו הסיבה שבחירה ארכיטקטונית זו חשובה - ומה משתנה אם נעשה אותה נכון.

בשעה 2:06, לקוח מבצע הזמנה מקוונת של מחשב נייד.

סוכן הקופה מבצע שאילתות במסד הנתונים התפעולי שלו: היסטוריית רכישות נקייה, סכום בטווח התקין, כתובת משלוח שנעשה בה שימוש בעבר, מכשיר ומיקום תואמים להזמנות שבוצעו לאחרונה. הכל נראה תקין. הסוכן מאשר את ההזמנה.

במקביל, סוכן התנהגות מעבד נתוני קליקים (clickstream) במאגר הנתונים של החברה. מהסשן, הוא גוזר דפוס: המשתמש הגיע ישירות לכתובת URL של קופה עמוקה ללא התנהגות גלישה או השוואה. אות זה חלש בפני עצמו, אך ידוע שהוא סימן מבשר בתרחישי השתלטות על חשבון בשילוב עם רכישות רגילות.

סוכן ההתנהגות רושם פרשנות זו כידע נגזר לצורך ניתוח ואימון מודל מאוחרים יותר.

סוכן הקופה לעולם לא רואה זאת. לא משום שהאות לא חושב, ולא משום שהוא לא זכה לתשומת לב - אלא משום שהידע נמצא בתוך מערכת שסוכן הקופה אינו מתייעץ איתה במהלך האישור.

כל סוכן מתנהג בצורה נכונה בהתחשב במה שהוא יכול לראות. כל אחד כותב למערכת שבבעלותו. אבל התובנה שמפיק סוכן אחד אינה נראית לסוכן השני בזמן קבלת ההחלטה.

המחשב הנייד נשלח במשלוח.

שלושים ושש שעות לאחר מכן, החיוב שנוי במחלוקת. החקירה מאשרת שהחשבון נפרץ מוקדם יותר באותו יום. התוקף שמר על העסקה בגבולות הרגילים, תוך הסתמכות על העובדה שהאזהרה המוקדמת היחידה הייתה קיימת כמידע התנהגותי שנלכד מחוץ להקשר ההחלטה של ​​סוכן הקופה.

הכשל לא נבע מחסור בנתונים, עיבוד איטי או מודל גרוע. מדובר היה במאגר של סוכנים: ידע נוצר, אך לא משותף.

וזה חושף בעיה שכמעט אף אחד לא מדבר עליה. בנינו ארכיטקטורות שבהן סוכני בינה מלאכותית שמקבלים החלטות לא יכולים לגשת למה שסוכני בינה מלאכותית אחרים כבר גילו.

הבעיה שפתרה מכונת הדפוס

לפני הדפוס, הידע היה שביר. כאשר מלומד מת, חלק ניכר ממה שלמד מת איתו. מתמטיקאי בלונדון היה יכול לבלות עשרות שנים בגילוי עקרונות שמתמטיקאי בפריז היה מגלה מחדש באופן עצמאי חמישים שנה מאוחר יותר. ההתקדמות הייתה אמיתית, אך היא הייתה מקומית, איטית ומתאפסת שוב ושוב.

בית הדפוס לא הפך אנשים לחכמים יותר. הוא החצין את הזיכרון. ידע הפסיק להיות קשור לתודעה יחידה והחל להתקיים מעבר לחייו של יוצרו. תובנות יכלו להיות משותפות, חוזרות ונבנות עליהן לאורך דורות. זה מה שאפשר להתקדמות להתעצם.

אנו נמצאים בסיכון לחזור על הטעות שלפני הדפוס עם הבינה המלאכותית.

רוב הארגונים פורסים כעת סוכני בינה מלאכותית במערכות ייצור שונות., כאשר רבים נוספים מתנסים באופן פעיל בתחומים כמו תמיכת לקוחות, פיתוח תוכנה, מחקר וגילוי הונאות. סוכנים אלה נפרסים בדרך כלל כשירותים עצמאיים המותאמים לטכנולוגיה המודרנית ארכיטקטורות מיקרו-שירותים, לכל אחד נתונים וגבול תפעולי משלו. אפילו בתוך אותו ארגון, סוכנים שואבים תובנות מניסיון הייצור שלהם, אך לעיתים רחוקות חולקים את הידע שהם מייצרים עם סוכנים אחרים המקבלים החלטות קשורות.

כתוצאה מכך, תובנות תפעוליות נותרות מקוטעות. החלטות מקומיות אולי משתפרות, אך ניסיון לא מצטבר ברחבי המערכת. כל פריצת דרך שנשארת לכודה בתוך סוכן יחיד היא פריצת דרך שלא יכולה להתפתח.

הפעם, הגורם המגביל אינו אינטליגנציה או מהירות. זהו הזיכרון. ללא דרך עבור מערכות בינה מלאכותית להוציא לפועל ולשתף את מה שהן מגלות, ההתקדמות מתאפסת לעתים קרובות יותר מאשר היא נבנית.

איך נראה זיכרון משותף בפועל

חלונות הקשר גדולים יותר יכולים להעשיר חשיבה אישית, אך הם אינם יוצרים גישה משותפת, ניסיון מתמשך בין סוכנים.

זיכרון משותף משנה תוצאות לא על ידי שיפור מודלים, אלא על ידי שינוי מה שסוכנים יכולים לראות בזמן קבלת החלטה.

במערכת מבודדת, כל סוכן מסיק נכון את הגבולות שלו. סוכן התשלום מעריך את הסיכון העסקי. סוכן ההתנהגות מנתח דפוסי זרם קליקים. כל אחד כותב את מסקנותיו למערכת שבבעלותו, ומסקנות אלו נותרות בלתי נראות לסוכנים אחרים הפועלים במקביל. החלטות נכונות מקומית, אך לא שלמות באופן גלובלי.

עם שכבת זיכרון משותפת, גבול זה נעלם.

כאשר סוכן ההתנהגות מעבד סשן, הוא גוזר אות חלש אך משמעותי: דפוס ניווט הקשור לניסיונות השתלטות מוקדמים על חשבון. במקום לאחסן תובנה זו רק לניתוח לא מקוון, הוא כותב את האות לזיכרון משותף, המקושר לסשן הפעיל.

רגעים ספורים לאחר מכן, כאשר סוכן הקופה מעריך את הרכישה, הוא מבצע שאילתה באותו זיכרון. העסקה עדיין נראית תקינה. אך כעת הוא רואה הקשר נוסף: אזהרה התנהגותית שאחרת הייתה נעדרת. אף אחד מהסימנים אינו מכריע בפני עצמו. יחד, הם חוצים את הסף לאימות נוסף.

שום דבר לא השתנה בסוכנים עצמם. אף מודל לא עובר אימון מחדש. אף בקר מרכזי לא מתערב. ההבדל הוא הנראות: תובנה שנוצרה על ידי סוכן אחד הופכת לזמינה לאחר כל עוד היא עדיין חשובה.

באופן מכריע, תובנה זו נמשכת. כאשר התוצאה ידועה מאוחר יותר - הונאה או לגיטימית - הקשר בין האות לתוצאה נרשם. עם הזמן, המערכת צוברת תיעוד אמפירי של אילו אינדיקטורים חלשים נוטים להיות חשובים, ובאילו תנאים. החלטות עתידיות מושפעות מניסיון החורג מעבר לכל אינטראקציה או סוכן בודד.

זיכרון משותף אינו מחסן נתונים ואינו מסד נתונים תפעולי. זהו מצע בעל השהייה נמוכה להקשר נגזר: אותות, פרשנויות ואסוציאציות ששורדים את האינטראקציה שיצרה אותם ונשארים ניתנים לשאילתה על ידי סוכנים אחרים המקבלים החלטות קשורות.

כך מתערבת החוויה - לא בתוך מודל אחד, אלא ברחבי המערכת כולה.

הפשרה האדריכלית מאחורי סילואים של סוכנים

סילואים של סוכנים אינם טעות יישום. הם התוצאה הצפויה של ארכיטקטורות ארגוניות שתוכננו סביב סוג אחר של צרכן.

במשך עשרות שנים, מערכות ייצור הפרידו עומסי עבודה לפי פונקציה. מערכות תפעול עברו אופטימיזציה לעסקאות עקביות ובעלות השהייה נמוכה, בעוד שמערכות אנליטיות עברו אופטימיזציה לאגרגציה בקנה מידה גדול וגילוי תבניות היסטוריות.OLTP לעומת OLAPהפרדה זו שיקפה את האופן שבו נצרכה תובנה: תוצאות אנליטיות הופקו עבור בני אדם, לא עבור מכונות, ולכן היו צפויות להגיע באופן אסינכרוני ומחוץ לנתיב הקריטי של קבלת החלטות.

סוכני בינה מלאכותית יורשים את הפיצול הארכיטקטוני הזה, אבל הם לא מתאימים לו.

התוצאה אינה רק תובנות מאוחרות, אלא נקודות עיוורות מבניות. תובנות המופקות במערכות אנליטיות מתגלות, מטבען, לאחר שכבר התקבלו החלטות בזמן אמת. אותות שיכולים לשנות תוצאות קיימים, אך לא ניתן לחשוף אותם בזמן קבלת ההחלטות משום שהם נמצאים במערכות שלא נועדו להיחקר באופן רציף על ידי מקבלי החלטות אוטונומיים.

הארכיטקטורה אינה שבורה. היא אינה תואמת את הדרישות של מערכות אוטונומיות.

הדיסציפלינה החסרה: הנדסת הקשר

זיכרון משותף מציג בעיה שרוב הצוותים אינם מוכנים לפתור: להחליט איזו חוויה צריכה להימשך.

מערכות בינה מלאכותית מייצרות כמויות עצומות של חוויה גולמית - עסקאות, קליקים, הודעות, פעולות, תוצאות. שמירה על כל זה אינה מעשית ואינה מועילה. ללא בחירה מכוונת, זיכרון משותף הופך לרעש. האתגר אינו איסוף נתונים נוספים, אלא עיצוב החוויה בהקשר שסוכנים אחרים יוכלו להשתמש בו.

זה התפקיד של הנדסת הקשר.

הנדסת הקשר היא תחום של החלטה אילו תצפיות הופכות לאותות עמידים, כיצד אותות אלה מיוצגים ומתי יש לחשוף אותם לגורמים אחרים. היא ממוקמת בין אירועים גולמיים לבין חשיבה של הגורמים, והופכת פעילות חולפת להבנה משותפת ורלוונטית להחלטות.

בפועל, משמעות הדבר היא שיפור דפוסים, אינדיקטורים ואסוציאציות מותנות תוך מתן אפשרות לרוב הניסיון הגולמי לדעוך. אות חלש או מקרה קצה חלש אולי לא ישפיעו בפני עצמם, אך הופכים בעלי ערך כאשר הם נצברים ונחשפים ברגע הנכון.

הנדסת הקשר קובעת האם זיכרון משותף רק אוגר חוויה - או מאפשר לה להתערבב.

מה קורה אם נעשה את זה נכון

זו אינה דאגה עתידית. זוהי החלטה אדריכלית שמתקבלת - לעתים קרובות באופן מרומז - על ידי צוותי תשתית כיום.

נתיב ברירת המחדל הוא בידוד. סוכני בינה מלאכותית פועלים באופן עצמאי, תוך הסתמכות רק על ניסיונם האישי. כל אחד מקבל החלטות מהירות ונכונות מקומית, אך המודיעין נתקע. אותם מקרי קצה חוזרים על עצמם, אותות חלשים מתגלים מחדש, וכשלים חוזרים על עצמם במהירות ובנפח גבוהים יותר.

האלטרנטיבה היא שכבת זיכרון משותפת.

כאשר ההקשר הנגזר נותר גלוי בזמן קבלת ההחלטות, הניסיון מפסיק להתאדות. תובנות שהתגלו פעם אחת נשארות זמינות. אותות חלשים מקבלים משמעות באמצעות הצטברות. החלטות משתפרות לא משום שמודלים משתנים, אלא משום שסוכנים כבר לא מנסים להסיק מסקנות באופן מבודד.

זה לא דורש מודלים גדולים יותר, אימון מחדש בזמן אמת או בקרה מרכזית. זה דורש התייחסות לזיכרון כשכבה ארכיטקטונית מהשורה הראשונה - שתוכננה לגישה עם השהייה נמוכה, התמדה ונראות משותפת.

ברירת מחדל ארכיטקטונית מתקשחת במהירות. מערכות שנבנו ללא זיכרון משותף הופכות לקשות יותר ויותר להתאמה מחדש ככל שסוכנים מתרבים. הבחירה פשוטה: לבנות מערכות שצוברות ניסיון - או מערכות שמתאפסות ללא הרף.