בוטים של צ’אט AI מתמודדים עם הבנה לשונית

הופעתם של בוטים של צ’אט AI הביאה לשינוי בחוויות השיח, והביאה התקדמויות שנראות כמקבילות להבנה ולשימוש האנושיים בשפה. בוטים אלו, המונעים על ידי מודלים של שפה משמעותיים, הופכים למיומנים יותר ויותר בניווט בסבך היחסים האנושיים.

אולם, מחקר אחרון העלה את החשיפה לחולשה הקיימת של מודלים אלו בהבחנה בין שפה טבעית לאין משמעות. החקירה שנערכה על ידי חוקרים מאוניברסיטת קולומביה מציגה תובנות מרתקות לגבי השיפורים הפוטנציאליים בביצועים של בוטים ובעיבוד שפה אנושית.

החקירה לגבי מודלים של שפה

הצוות הרחיב על מחקרם, שכלל תשעה מודלים שונים של שפה, שהוצגו בזוגות משפטים רבים. המשתתפים האנושיים במחקר התבקשו להבחין במשפט ה”טבעי” יותר בכל זוג, המשקף את השימוש היומיומי. המודלים נבדקו לפי האם הערכותיהם התאימו לבחירות האנושיות.

כאשר המודלים הושוו זה לזה, המודלים המבוססים על רשתות נוירונים מעברות (transformer) הציגו ביצועים עדיפים בהשוואה למודלים פשוטים יותר של רשתות נוירונים ומודלים סטטיסטיים. אולם, אפילו המודלים המתוחכמים יותר הציגו שגיאות, לעיתים קרובות בוחרים משפטים שנתפסים כחסרי משמעות על ידי בני אדם.

המאבק עם משפטים חסרי משמעות

ד”ר ניקולאוס קריגסקורטה, חוקר ראשי במכון זוקרמן של קולומביה, הדגיש את ההצלחה היחסית של מודלים גדולים של שפה בלכידת היבטים חשובים שמודלים פשוטים יותר החמיצו. הוא ציין, “כי אפילו המודלים הטובים ביותר שבדקנו עדיין יכולים להיות מוטעים על ידי משפטים חסרי משמעות, מראה שחישוביהם חסרים משהו על הדרך שבני אדם מעבדים שפה.”

דוגמה מרתקת מהמחקר הדגימה את מודלים כמו BERT, ששפטו לא נכון את הטבעיות של משפטים, בניגוד למודלים כמו GPT-2, שהתאימו להערכות אנושיות. הפגמים השוררים במודלים אלו, כפי שציין כריסטופר בלדאסאנו, פרופסור חבר בפסיכולוגיה בקולומביה, מעלים חששות בנוגע לתלות במערכות AI בתהליכי קבלת החלטות, מצביעים על “נקודות עיוור” בסימון משפטים.

משמעויות וכיוונים עתידיים

הפערים בביצועים וחקירת הסיבות לכך שמודלים מסוימים מצטיינים יותר מאחרים הם נושאים של עניין עבור ד”ר קריגסקורטה. הוא מאמין כי הבנת הפערים האלו יכולה לקדם משמעותית את ההתקדמות במודלים של שפה.

המחקר פותח גם אפיקים לחקירה האם מנגנונים בבוטים של צ’אט AI יכולים לעורר שאילתות מדעיות חדשות, ולסייע לנוירולוגים בפענוח הפרטים של המוח האנושי.

טל גולן, פרופסור חבר, המחבר הראשי של המאמר, הביע עניין בהבנת תהליכי החשיבה האנושיים, לאור היכולות הגדלות של כלים AI בעיבוד שפה. “השוואת הבנת השפה שלהם לשלנו נותנת לנו גישה חדשה לחשיבה על איך אנו חושבים,” הוא העיר.

חקירת יכולות השפה של בוטים AI חשפה את האתגרים הקיימים בהתאמת הבנתם לקוגניציה האנושית.

המאמצים המתמשכים לחקור את ההבדלים האלו והגילויים הבאים מוכנים לא רק לשפר את יעילותם של בוטים AI, אלא גם לחשוף את השכבות הרבות של תהליכים קוגניטיביים אנושיים.

הצבת הבנה השפה של AI וקוגניציה אנושית מהווה בסיס לחקירות רב-פניות, שיכולות לשנות תפיסות ולקדם ידע בתחומים המשולבים של AI ונוירולוגיה.