מעבר לכלכלת האימות

בדיקת עבודת האינטליגנציה המלאכותית עשויה להפוך לענף משמעותי בכלכלת הלמידה החדשה; ענף שיצטרך לגדול בקנה מידה גדול, ואשר לא יוכל להיות אוטומטי. אך ככל שהשנים חולפות, ‘מומחים’ אנושיים כנראה ידרדרו באיכות.

דעה. אשתי היא אדריכלית באחד הביורוקרטיות העמוסות והמפרכות ביותר באירופה. חלק משמעותי מערך החינוך שלה טמון בקבלת ואחזקת זכות החתימה – תעודה יקרה שיש לחדש מדי שנה, ואשר מאפשרת לה לחתום בפועל על הצעות שיישומן עשוי להגיע למאות אלפים, אפילו מיליוני אירו.

היא מספרת לי שזה לא החלק הקשה ביותר בעבודתה, מאחר שזה רק מפורמל את חישוביה שלה, או של אחרים, ושבשביל כך, עבודה חיצונית לא בדרך כלל קשה לבדיקה.

בעצם – כפי שקרה לעתים קרובות גם כאשר ממנים מנכ”לים – חותמת זו (זו באמת חותמת) מספקת בעיקר לבעלי עניין עכוז לבעוט אם הדברים הולכים לאיבוד. בכך שהיא מאפשרת אחריות, היא מקלה גם ביטוח ואמון משקיעים, שלא היו מתקבלים בלעדיו.

זו הפעם השנייה בחיי שראיתי תהליך זה בפעולה; לפני 25 שנה הייתי מאורס לאונקולוגית בביורוקרטיה אחרת, מוכרת מדי, באיטליה, וראיתי עד כמה חתימתה המומחית הייתה שלב אחרון בשרשרת אמון, שאליה תרמו רבים אחרים, מלבדה.

שמעתי משתי נשותיי, בתקופה ההיא, ולאחרונה מאשתי, שמקצועותיהן היו/הם מלאים בחברים מוסמכים שמוכרים את חותמתם ונמנעים מעבודה מקורית או שימושית יותר, כיוון שהם פחות רווחיים. כאלה יכולים לגבות סכומים גבוהים, מכיוון שהם מייצגים משאבים נדירים וחיוניים.

בדוק את זה

נושא זה עלה במוחי כאשר נתקלתי במאמר חדש ונרחב מאמר היום, בשם כלכלה פשוטה של AGI. בו, שלושה חוקרים מ-MIT, אוניברסיטת וושינגטון בסנט לואיס, ו-UCLA, מתארים עתיד קרוב, שבו המניע המחריד, הורס המקומות לעבר אוטומציה בהנעה על ידי אינטליגנציה מלאכותית, מתנגש עם הצורך באנשים אמיתיים שיש להם ‘עכוז’ שאפשר לבעוט, במצבים בעלי יתרון גבוה – וכך יוביל לכלכלה חדשה של אימות אנושי, אישור ואחריות*.

המאמר מנוגד לדמיון הנוכחי של התקשורת, של מגזרים עסקיים מרוקנים, עם משרדים נרחבים שהופחתו ל’מפקח’ יחיד, שהחלטותיו משמשות כנתונים לאימון, כדי לאשר, בתקווה, לפטר אפילו את השריד האחרון של ‘בשר’.

במקום זאת, המחברים סבורים כי שיקולים מעשיים ודרישות תאימות ימקדו תשומת לב עצומה ב’בני אדם המחתימים’ שמרגיעים את מחלקת המשפטים (אינטליגנציה מלאכותית/אנושית/מסייעת לאינטליגנציה מלאכותית) של חברה:

‘עבור חברות, התובנה האסטרטגית היא כי אימות אינו עוד פונקציית תאימות, אלא טכנולוגיית ייצור ראשית – והולכת וגדלה, היא הגנה הכי חזקה שלהן. זה דורש מהפכה מבנית: השקעה כבדה בניתוח, הרחבת אימות עובדות, וארגון מחדש סביב טופולוגיה “סנדוויץ'” (כוונה אנושית → ביצוע מכונה → אימות וביטוח אנושי).

‘בכלכלה שבה התוצר הגולמי מוזל, היתרון התחרותי מהגר לכישרון ונתונים נדירים, המסוגלים לכוון ולאשר מערכות – יוצרים אפקט רשת לא בתוצר, אלא בתוצאות מהימנות.’

המחברים שוערים כי המגבלה המרכזית על צמיחה אינה בודדת – שאינטליגנציה מלאכותית כבר ‘ניתקה מביולוגיה’ – אלא רוחב פס אימות.

מעבר ערך לאימות אנושי

המאמר מתאר את המעבר ל-AGI כפער הולך וגדל בין עלות הייצור של תוצר מכונה לעלות בדיקת התוצר – האחרונה, שעדיין קשורה לזמן אנושי סופי וניסיון.

יצירת תוכניות, דוחות, עיצובים והמלצות יהיו במצב זה זולים ושפע, בעוד שקביעה של אילו מהם הם תקינים, מסונכרנים, ובטוחים מספיק לפעול, יהיה ‘פונקציה נדירה’.

המגבלה היעילה על פריסה תהיה, אם כן, לא כמה תוצר יכולות מערכות לייצר, אלא כמה מהתוצר ניתן לאמת באופן אמין.

כך, במקום לגמול על כישרון מיוחד במשימות מדידות, המערכת, המחברים חוזים, תחיל לגמול על מדידות עצמן: עבודה שניתן לפרמטריזציה תדרדר לכיוון התייעלות, ככל שעלות הביצוע תתקרב לעלות השולית של חישוב, עם ערך שיצטבר בעובדות קרקע איכותיות, עקבות ביקורת אמינות, ומנגנונים מוסדיים להקצאת וספיגת אחריות.

לפיכך, בכלכלת אימות, היתרון יהיה פחות בייצור תוכן, ויותר באימות תוצאות, וביטוח הסיכונים הקשורים אליהם.

אם אוטומציה ממשיכה להאיץ, בעוד אימות נותר מוגבל על ידי זמן ותשומת לב אנושיים, המאמר חוזה כי כלכלה ריקה תופיע, שבה, ככל שעלות אוטומציה של עבודה יורדת, יותר ויותר סוכנים יופעלו, מכיוון שזה מתעסק מבחינה כלכלית – אף על פי שהיכולת לבדוק היטב את תוצריהם לא תגדל באותה מהירות.

לעומת זאת, כלכלה משופרת תבטיח כי יכולת אימות תגדל בצמוד לאוטומציה. זה יחייב השקעה מכוונת באימונים מובנים, כדי לשמר מומחיות, וכן מסגרות אחריות חדשות, שיכולות לספוג סיכונים. פריסה תהיה, אז, קשורה למה שבאמת ניתן לבדוק ולבטוח – בעצם, מצוואר בקבוק ישן, שהובא למרכז הבמה על ידי קנה מידה חסר תקדים של פיתוח טכנולוגי:

‘בתחום הטכנולוגיה, המודל הדומיננטי של רווח יעבור ממוניטיזציה של גישה לתוכנה (Software-as-a-Service) למוניטיזציה של תוצאות (“Software-as-Labor”). עקב כך, חברות יישקלו בעיקר על פי יכולתן לספוג סיכונים באמצעות Liability-as-a-Service.

‘ביצוע כבר מותכלל; היכולת המשפטית והפיננסית לספוג את הכישלונות הבלתי נמנעים היא הצוואר החדש.’

תשואה פוחתת

אכן, שימור המומחיות בתחום בבני אדם הוא קריטי לבעיה, מכיוון שתרבות של פיקוח תעשייתי, לפי המחברים, תסכן במהלך הזמן, להידרדר את איכות ‘המבצעים’ את הפיקוח – מכיוון שדורות הבאות של ‘מפקחים’ לא יחזיקו עוד ניסיון ישיר וחי של התחומים הדורשים אימות.

בטענה, בשלב ההוא, איכות הפיקוח אכן תהיה פגיעה לאוטומציה, מכיוון שהחלטות חדשות יתגבשו רק על בסיס החלטות קודמות. הדבר ישאיר בעלי עניין ללא עכוז לבעוט, או דגם עסקי תפעולי. זה גם יעשה תפקיד כזה מרושש ומלא סיכונים, עד כי לא יהיה מושך, אפילו בתקופה של אבטלה נמוכה.

הפנייה של מקצועות מורשים, כמו רופאים ואדריכלים, לתפקיד ‘אימות’ תיאלץ ומשולם, אך נושא בעול, כנראה תגרום לשחיקה בערכם בתפקיד כזה, עם הזמן: ככל שניסיונם המעשי ירחק לאחור, כך החלטותיהם ‘תאורטיות’ יותר, ככל שתחומם הנטוש ממשיך להתפתח בהיעדרם.

(זה מוכר גם בתרבות עסקית קודם לאינטליגנציה מלאכותית, בצורת צוות מיומן, שמתקדם לניהול והולך ומתרחק מפיתוחים חדשים, ובסופו של דבר מבטל את שוויו כמפקחים ומארגנים. זה גם מוכר למעריצי Star Trek: TNG , בצורת ה-Pakleds – גזע, שמשתמש בטכנולוגיה מתקדמת באופן נרחב, אך אינו יודע עוד איך ליצור או לתקן אותה.)

ביצוע רמת הכניסה היסטורית שימש כשטח אימון לעתיד מומחים; אך אם אוטומציה מחסלת משימות שגרתיות, שדרכן מתפתחת שיפוט, אספקת מאמתים מיומנים תקטן, המחברים מציעים.

כך, המאמר מבשר פרדוקס: ככל שמערכות אגנטיות הולכות ונעשות חזקות יותר, חברה תהיה תלויה יותר במלאי של מומחיות אנושית שאותן מערכות עלולות לתקן.

ונזכור כי זה בשום אופן לא בעיה טכנית, ולא פתירה לפתרון טכנולוגי. בהרבה מובנים, תסמונת זו מרמזת על המקבילה הלוגיסטית של קריסת מודל אינטליגנציה מלאכותית – חוץ מזה, שכאן אנו מדברים על תקלה ב-מודל כלכלי.

‘מנקודת מבט מדיניות, האתגר המרכזי הוא א-סימטריה מבנית עמוקה: הרווחים של פריסת אינטליגנציה מלאכותית מופרטים באופן אגרסיבי, בעוד סיכונים סיסטמיים מופקדים על הציבור. חברות ויחידים לוכדים את הצד החיובי של אוטומציה, בעוד הם מייצאים סיכונים קטסטרופליים.

‘בלי תשתית אימות משותפת ומחירי אחריות נוקבים, השוק ינטה בהגיון ל-כלכלה ריקה – שיווי משקל, המאופיין בפעילות מודדת, אך בעיקרו, חלול משליטה אנושית.’

מסקנה: משבר אחר

המחברים מגדירים את המשבר הצפוי כ-פער מדידות, שבו תהליכים מדידים יכולים להיות מאוטומטים, ולהיפרד מכל תרומה אנושית, ולהשאיר n-קשה או n-משפטי, שעדיין דורשים מומחיות אנושית.

אולם, ניסיונה של אשתי מרמז כי המורכבות או הקושי של תהליך אינם בהכרח קשורים לצורך באחריות בתהליך; הרבה מהדברים, שהיא ‘חותמת’ עליהם, מייצגים בעיות פשוטות או חישובים, אך הם בעלי משמעות במקרה של הפרה. וככל שהתרבות העסקית הולכת ונעשית תובענית יותר, כך ידרשו בעלי עניין ומשקיעים אחריות אנושית, במגוון רחב יותר של תהליכים.

כך, מעבר לכלכלת האימות עלול לגרום למשבר אחר, מזה שכרגע מעסיק את העיתונות. הבעיה, במקרה זה, לא תהיה האם אינטליגנציה מלאכותית יכולה לייצר יותר, אלא האם מוסדות יוכלו לאמת מספיק ממה שמיוצר, כדי לתרגם אינטליגנציה מלאכותית לערך עמיד.

מכיוון שאינטליגנציה מלאכותית עשויה להתרחב בלי תקדים, וזמינות זמן אנושי מתאים למקרה לא תוכל לעמוד בקצב, הנושאים, שהועלו בעבודה החדשה, נראים כפי שיתעוררו במהירות – אפילו אם הם עלולים להיעלם תחילה, על ידי השלכות הכלכליות הרחבות יותר, של אימוץ אינטליגנציה מלאכותית.

* המאמר ארוך מדי מכדי לפרק, ובכל מקרה, לא מתאים לסוג זה של ניתוח. לכן, החלטתי להעיר עליו, ולשקול את משמעותו, ולהפנות את הקורא לעבודה המקור, כדי שיוכל לעשות כן.

^† /s

פורסם לראשונה, יום רביעי, 25 בפברואר 2026