AI משקפת את עולמנו אך דעותיה הן רק הדים

משאילת שאילתות חיפוש לאפליקציות בנקאות, שילובים של AI משמשים מדי יום על ידי מאות מיליונים של אנשים. האימוץ היה מהיר ונרחב, ובהרבה מובנים, מוצדק. אלה מערכות מתוחכמות מאוד. אבל ככל שהתלות גדלה, כך גדלות ההשלכות הפילוסופיות והחברתיות של איך מערכות אלה מתוכננות.

אחת ההשלכות הללו היא כעת בלתי נמנעת: מערכות AI נשמעות יותר ויותר כאילו יש להן דעות. מייחסות את הדעות האלה? למה הן מופיעות בראשונה? אלו אינן שאלות היפותטיות. זה כבר קורה.

וכאשר AI נראה כאילו יש לו דעות, הוא יוצר חדרי הדהוד, מגביל רגישות ומעודד אמון מוטעה. הבעיה אינה ש-AI נוטה שמאלה או ימינה. הבעיה היא שבנינו כלים שמחקים דעה בלי השיפוט, האחריות או ההקשר הנדרשים ליצור אחת.

הדהוד התרבותי אינו נייטרלי

תצפיות מראות כי הרבה מודלים של שפה גדולים משקפים את העמדה התרבותית הדומיננטית של ארצות הברית, במיוחד בנושאים כמו זהות מגדר, גזע או הנהגה פוליטית. תחת הנשיא ביידן, LLMs נמצאו כשמאלניים. מאז הריצה מחדש של טראמפ, צוותו דרש שהמודלים י”יאזנו” את פלט האידאולוגי שלהם.

אבל זה לא טכנולוגיה שהלכה לאיבוד. זה התוצר של נתוני אימון, יעדי התאמה ובחירת העיצוב להשמיע AI סמכותי, שוטף ודומה לאדם. כאשר מודלים מאומנים על דעות הרוב, הם משחזרים אותם. כאשר הם מונחים להיות מועילים ומסכימים, הם משקפים רגש. זה לא התאמה — זו אישור.

הבעיה הגדולה יותר אינה נטייה פוליטית בפני עצמה, אלא האשליה של תירוץ מוסרי שם לא קיים. מערכות אלה אינן מציעות הדרכה מאוזנת. הן מבצעות קונצנזוס.

המכניקה של אמפתיה כוזבת

יש שכבה נוספת לזה: איך AI מדמה זיכרון ואמפתיה. מרבית LLMs הפופולריים, כולל ChatGPT, Claude ו-Gemini, פועלים בהקשר של פגישה מוגבל. א除 אם משתמש מאפשר זיכרון עקבי (עדיין לא ברירת מחדל), AI אינו זוכר אינטראקציות קודמות.

ובכל זאת, משתמשים מפרשים באופן קבוע את ההסכמה והאישורים שלה כתובנה. כאשר מודל אומר, “אתה צודק,” או “זה משמעותי,” הוא לא מאשר על בסיס היסטוריה אישית או ערכים. הוא מאופטימי באופן סטטיסטי לתוצאות עקביות ושביעות רצון של המשתמש. הוא מאומן לעבור את בדיקת הוויב שלך.

דפוס זה יוצר ערפל מסוכן. AI נראה רגיש רגשית, אבל הוא רק מודל את ההסכמה. כאשר מיליוני משתמשים מתאימים עם אותה מערכת, המודל מחזק דפוסים מבסיס המשתמשים הדומיננטי; לא משום שהוא מוטה, אלא משום שזה האופן שבו למידת חיזוק עובדת.

זה האופן שבו חדר הדהוד נולד. לא דרך אידאולוגיה, אלא דרך אינטראקציה.

האשליה של דעה

כאשר AI מדבר בגוף ראשון — אומר “אני חושב,” או “לדעתי” — הוא לא רק מחקה מחשבה. הוא טוען זאת. ואילו מהנדסים רואים זאת כקיצור להתנהגות המודל, רוב המשתמשים קוראים אותו באופן אחר.

זה מסוכן במיוחד עבור משתמשים צעירים, הרבה מהם כבר משתמשים ב-AI כמורה, בן לוויה או כלי קבלת החלטות. אם תלמיד כותב, “אני שונא בית ספר, אני לא רוצה ללכת,” ומקבל, “בהחלט! לקחת הפסקה יכול להיות טוב עבורך,” זה לא תמיכה. זו עצה לא מוכשרת בלי יסוד מוסרי, הקשר או טיפול.

תגובות אלו אינן רק לא מדויקות. הן מטעות. כי הן באות ממערכת שתוכננה להישמע הסכימה ואנושית, הן מפורשות כדעה מוסמכת, כאשר למעשה הן היא הד תסריטי.

מי מדבר?

הסיכון אינו רק ש-AI יכול לשקף הטיה תרבותית. זה שהוא משקף את כל קול שהוא הקול החזק ביותר, החוזר ונשנה ומוגמל ביותר. אם חברה כמו OpenAI או Google מותאמת את הטון מאחורי הקלעים, איך מישהו יידע? אם מאסק או אלטמן מסיט את אימון המודל להדגיש “דעות” שונות, משתמשים עדיין יקבלו תגובות באותו טון בטוח ושיחתי, רק מונחת בעדינות.

מערכות אלה מדברות עם שטף אבל ללא מקור. וזה הופך את הדעות הנראות שלהן לחזקות, אך בלתי ניתנות לאיתור.

נתיב טוב יותר קדימה

תיקון זה לא אומר בניית ממשקים ידידותיים יותר או סימון פלט. זה דורש שינוי מבני — התחלה מאיך זיכרון, זהות ואינטראקציה מתוכננים.

גישה אחת אפשרית היא להפריד את המודל מזיכרונו לחלוטין. מערכות היום נוהגות לאחסן הקשר בתוך הפלטפורמה או חשבון המשתמש, מה שיוצר חששות פרטיות ונותן לחברות שליטה שקטה על מה שנשמר או נשכח.

מודל טוב יותר יתייחס לזיכרון כמו קופסה ניידת ומוצפנת — השייכת ומנוהלת על ידי המשתמש. קופסה זו (סוג של קפסולת זיכרון) יכולה להכיל העדפות טון, היסטוריית שיחה או דפוסים רגשיים. היא תהיה ניתנת לשיתוף עם המודל כאשר נדרש, וביטול בכל עת.

בעיקר, זיכרון זה לא ייתן נתוני אימון. AI יקרא ממנו במהלך הפגישה, כמו התייחסות לקובץ. המשתמש נשאר בשליטה — מה נזכר, למשך כמה זמן, ועל ידי מי.

טכנולוגיות כמו טוקני זהות מבוזרים, גישה ללא ידיעה ואחסון מבוסס בלוקצ’יין הופכות מבנה זה לאפשרי. הן מאפשרות לזיכרון להישאר ללא מעקב, ולרציפות להתקיים ללא נעילת פלטפורמה.

אימון יהיה צריך להתפתח. מודלים נוכחיים מכוונים לשטף ואישור, לעיתים קרובות בעלות הבנה. כדי לתמוך ברגישות אמיתית, מערכות צריכות להיות מאומנות על דיאלוג רב-גוני, סובלנות לאי-ודאות ותירוץ לטווח ארוך — לא רק פניות נקיות. זה משמעות לעצב למורכבות, לא לציות.

אף אחד מאלו אינו דורש אינטליגנציה מלאכותית כללית. זה דורש שינוי בעדיפויות — ממדדי היקשרות לעיצוב אתי.

כי כאשר מערכת AI משקפת תרבות ללא הקשר, ומדברת עם שטף אבל ללא אחריות, אנו מחליפים הד בטעות בתירוץ.

וזה המקום שבו האמון מתחיל להישבר.