מעבר לציפיות: סוכנים מלאכותיים והפרק הבא של עבודה

סוכנים מלאכותיים, או סוכנים אוטונומיים, נמצאים בימיהם הראשונים. מאוד מוקדם – תחתית הפינה הראשונה מוקדם. התחום מרעיש עם חדשנות, ממחקר חלוצי להוכחות קונספט וליישומים מעשיים – הכול מרמז על הפוטנציאל העצום של בינה מלאכותית. 

אין ספק שסוכנים אוטונומיים ישנו כל תעשייה בודדה, עם יכולותיהם המשתרעות מעבר לאוטומציה של משימות לעיצוב מחדש של זרימת עבודה, חיקוי תרחישים מורכבים והפחתת הצורך בהתערבות אנושית בתהליכים שונים. אנו מסתכלים על עתיד (קרוב) שבו סוכנים יכולים לרוץ סימולציות בקנה מידה גדול, לעצב מערכות שיווק, או אפילו לאוטומט תהליכי בדיקות R&D מורכבים.

Boston Consulting Group (BCG) מדגיש את הקפיצה האבולוציונית ממודלים של שפה גדולים (LLM) לסוכנים אוטונומיים שתוכננו לבצע משימות מקצה לקצה, לפקח על תוצאות, להסתגל ולהשתמש בכלים באופן אוטונומי כדי להשיג מטרות. הם מייצגים צעד משמעותי לעבר בינה מלאכותית אמיתית, המסוגלת לפעולה עצמאית ללא פיקוח אנושי רצוף. 

במונחים של גודל שוק, בינה מלאכותית אוטונומית וסוכנים אוטונומיים הוערכו ב-4.8 מיליארד דולר ב-2023 וצפויים לרשום CAGR של מעל 43% בין 2023 ל-2028, ויגיעו ל-28.5 מיליארד. ברור שאנו עומדים על סף מהפכה – שלב מלא בציפייה, התרגשות, סקפטיות והערכה פרגמטית. מהפכה זו אינה רק על קדמה טכנולוגית; היא על מחשבה מחדש על הגישה שלנו לעבודה, פרודוקטיביות וחדשנות. כמעט כל משקיע, מייסד, מפתח וחובב טכנולוגיה מנסה להבין את ההשפעה של טכנולוגיה זו על אופן העבודה שלנו בחיים שלנו ומעבר, ולהעריך את המשמעויות עבור פעולותיהם ויעדים אסטרטגיים. 

אולם, כפי שאנו עומדים כעת, אנו חסרים את היכולת להבין במלואה את היקף השינוי ההמוני שזה יגרום. כל מה שאנו יכולים לעשות הוא לשער. מאמר זה הוא רק כך – השערתי על הדינמיקה המתפתחת של סוכנים אוטונומיים והשלכותיהם עבור מייסדים, משקיעים והכלכלה הרחבה. אדבר על איך אנו ב-Forum Ventures חושבים ומשקיעים בתחום, וכן אספק מפה של שוק עם החברות שאנו מאמינים שמובילות את החקירה. 

איפה אנו נמצאים היום

למרות ההתקדמויות המשמעותיות במחקר והוכחות קונספט, אנו כולנו עדיין מנסים להבין ולתאר איך לנצל את היכולות המלאות של סוכנים מלאכותיים. עד כה, יש שילוב של שלושה מגמות:

1. התקדמויות בביצועים ויעילות של בינה מלאכותית, המרחיבים את גבולות האפשרי. 
2. ירידת עלות הפעולה של יכולות, כגון ChatGPT 4.0, למשל, הופך את השימוש בסוכנים מלאכותיים לנגיש יותר לאנשים רבים יותר וגורם לאימוץ רחב יותר ולאימוץ כללי של טכנולוגיה זו.
3. הדמוקרטיזציה של גישה לבינה מלאכותית, קוד פתוח או לא, המאפשרת לישויות רבות יותר לחקור וליישם פתרונות של בינה מלאכותית, ובכך מאיצים את קצב החדשנות.

כמו עם כל טכנולוגיה חדשה, במיוחד שינוי גדול כמו זה, יש מערך של אתגרים שנמצאים בתהליך של טיפול. הנה שניים מהם:

1. בטיחות ודיוק

יש מיקוד גובר על פיתוח התשתית הנדרשת כדי להבטיח את הפריסה הבטוחה והאתית של סוכנים מלאכותיים. עבור רבות מהתעשיות והעסקים, אין מקום לשגיאות. אם LLM הוא בעל שיעור הזיות של אפילו 0.1% הוא לעולם לא יוכל להיות מהימן בתהליך ביקורתי, ושיעור השגיאה הזה צריך להיות אפילו נמוך יותר עבור תהליך של 10 צעדים או 100 צעדים. פתרון זה הוא מרכזי לאימוץ נרחב, וחברות רבות ממתינות לפני שהן אומצות LLMs הן כחלק מערימת הטכנולוגיה שלהן או כדרך חדשה לחלוטין של פעולה. 

כלים לפיקוח על דיוק ובטיחות דרך תצפית ואישור משתמש, וכן מסגרות אתיות, נבנים כדי לקדם גישה אחראית לאינטגרציה של בינה מלאכותית. ראינו חברות מסוימות עושות זאת היטב, PrivateAI היא אחת מהן. הם משתמשים בהסקה כדי לוודא שחברות אינן מאמנות על נתונים פרטיים כדי שלא ידלפו. אנו גם מאוד מעוניינים בחברות חדשות הבאות לשוק כמו SafeguardAI – סוכן בינה מלאכותית אוטונומית שמגן על הזיות, מאפשר לתאגידים לפרוס שימושים של בינה מלאכותית יוצרת מהר יותר.

בנוסף, כלים כגון מדדים אוטומטיים להערכה, מסגרות הערכה אנושית וסטים של נתונים אבחוניים מפותחים כדי לסייע בהערכה ושיפור דיוקם של LLMs. כלים אלו עוזרים לחוקרים ומפתחים לזהות חוזקים וחולשות ב-LLMs ולהנחות התקדמויות נוספות בתחום.

2. אינטראקציה בין אדם לבינה מלאכותית

האתגר כאן הוא למה יהיה היקף האינטראקציה בין בני אדם לתוכנה אוטונומית. ישנן דאגות לגבי הסיכונים הפוטנציאליים של מערכות בינה מלאכותית הפועלות ללא בקרה אנושית מספקת, כלומר כמה אוטונומיה היא רבה מדי. אבל אנו גם צריכים לקבוע כמה אנו רוצים בני אדם בלופ, ומהו הרמה של אינטראקציה אנושית היוצרת יותר בטיחות בעודה מגבילה את הטיות ומפחיתה את הסיכוי לשגיאות אנושיות. אין לנו תשובות טובות לזה עדיין, בשום סולם מוסכם.

מנקודת מבט אופטימיסטית, אני מקווה שנוכל להגדיר פרדיגמה חדשה לתוכנה אוטונומית לפעול בתוך שליטה אנושית בדרך שהיא נפקחת ונצפית, כך שבני אדם יוכלו לעצור דברים “קטלניים” מתרחשים כמו גרסה גדולה יותר של משבר פתאומי בכלכלה. לדעתי, אלו שיוכלו לבנות זאת ינצחו ויספקו הזדמנויות מהפכניות. 

המעבר מתהליכים מכווני משימות לתהליכים מכווני מטרות

לא תהיה שום ענף או תחום עבודה שלא יושפע מסוכנים מלאכותיים, והרבה מהשינויים שיקרו בעתיד הקרוב. לדעתי, אחד מההשפעות המשמעותיות ביותר שסוכנים מלאכותיים יהיו הוא המעבר מתהליכים מכווני משימות לתהליכים מכווני מטרות. היום, אתה מקליד משהו למחשב, כגון “כתוב לי מאמר על סוכנים מלאכותיים”, והמחשב נותן לך משהו בחזרה, אותו אתה אז מבצע. זוהי משימה מאוד מכוונת, ועדיין דורשת מהמשתמש לאמ