AI וקשת האמון

בתחילת השנה האחרונה, כאשר צוותנו עשה תחזיות על מה שיקרה בעתיד, ההסכמה הייתה שהאריזות יוסרו מהבינה המלאכותית (AI). נראה לבסוף מה היא יכולה לעשות, ותקווה, לקבל בהירות על השפעתה על עסקים וחברה ואיך להמשיך. זו לא הייתה תחזית חדשה, אבל הליבה שלה הייתה מדויקת, אם כי עדיין אנו מתמודדים עם המשמעויות של AI ואיך (אם בכלל) צריך לבקר אותה באיזושהי דרך.

אנו היינו רואים את Apple, Microsoft ו-Google בונים AI לתוך התקנים ומביאים את כוחה לקהל רחב יותר. אז, שוב, צ’אטבוט אחד בכלי חיפוש מונע AI איים על משתמשים וטען שהוא מרגל אחר עובדים, בעוד שאחר מציע להשתמש בג’לי Elmer כדי למנוע מהגבינה ליפול מפיצה ביתית. עם זאת, מקרי השימוש ב-AI בעסקים גדלו באופן דרמטי וכך גם השוק. על פי נתונים מ-Crunchbase, כמעט שליש מכל המימון הון סיכון הגלובלי בשנה האחרונה הלכה לחברות בתחומים הקשורים ל-AI בלבד.

אבל אפילו כאשר OpenAI סיפקה תוצאות חישוביות משופרות, חוקר AI מפורסם, Yoshua Bengio, קרא לאמצעי בטיחות ל” מודלים חדישים” עם פוטנציאל לגרום לנזק קטסטרופלי. ואף על פי שהטכנולוגיה תזכה בשני פרסי נובל עבור יישומים במדע, אחד מהזוכים הביע דאגה מפני הימצאות מערכות “יותר אינטליגנטיות מאיתנו שבסופו של דבר ייקחו שליטה”.

בתחום כל כך דינאמי, קשה לטכנולוגים מומחים לעמוד בקצב, לא לדבר על אלו שבזרם המרכזי.

ואותם היסטרונים AI – ודאגות מגידול ושימוש בלתי מבוקר – רק הגבירו את הזהירות הציבורית.

תקשיבו לי

אנו מוצאים את עצמנו באמצע קשת האמון, אחת שדורשת התקדמות בקבלה הציבורית של AI, בעודנו מוודאים שקהילות העסקים והטכנולוגיה פועלות באופן אחראי. החלק הראשון הוא היכן שהמשחק מתנהל כרגע, ברמה התאגידית, וצובר תאוצה עם כל פריסה בטוחה ותקינה. אנו בונים על נקודות הוכחה שלנו, שיביאו בסופו של דבר לעלייה באמון הציבורי. החלק השני, עם זאת, הרבה יותר מסובך.

מי מגדיר ואוכף את השימוש האחראי ב-AI? האם תעשייה יכולה ליצור קווים מנחים כאשר הם האחדים שזקוקים לרגולציה? אם טכנולוגים מתקשים לעקוב אחר AI, האם מחוקקים יהיו מודעים, וישאירו את סדר היום הפוליטי שלהם מחוץ לדיון? וכאשר מיליארדר AI פתאום רוצה לדבר על בקרה, האם הוא חווה הארה או רק מנסה לבלום כדי לתפוס עוד נשימה?

“תקשיבו לי” לא יעבוד עם AI, לא משנה מי אתה.

אמון אבל תבדוק

אנשים מסתכלים על AI יוצרנית כמו ChatGPT ומתפלאים אם זו תהיה ה-Google הבאה שלהם? רק, תוצאת החיפוש העליונה של Google נוצרה עכשיו על ידי מודל ה-AI שלה, Gemini. הבעיה היא שאתה לא יכול לסמוך עליה לעסקים בקנה מידה גדול כאשר שאילתה פשוטה כמו “האם בשר נא נצרך?” מחזירה “כן, קפוא”. אתה צריך לבדוק את הנתונים.

קשת האמון הציבורית תשקף מה שעשתה עם חיפוש קונבנציונלי, נרכשת במשך הזמן ועם הוכחת אמינות. באירוניה, במאמצינו לפשט ולשפר את החיפוש, לקחנו צעד לאחור. עכשיו, אחרי שקיבלת את התשובה המונעת AI בראש, אתה צריך לגלול עבר רשימה ארוכה של קישורי פרסום, ללחוץ על החמישה הבאים ועדיין לאשר את המידע.

זהו הרבה עבודה כאשר אתה מחפש תשובה מהירה – ואתה לא יכול להיות חברה שלמה עושה את אותו הדבר. עם זאת, עשר את הנתונים שאתה כרו עם עשרות אלפי כרטיסי שירות משלך ואתה מביא את הידע האמיתי על סביבתך. באופן אלגוריתמי, אתה יכול לקפל את ההזיות, אבל עדיין זו “אמון אבל תבדוק” מצב.

שמור פוליטיקה מחוץ

כאשר מדובר ברגולציה של AI, חלקם טוענים שהסוס כבר יצא מהאורווה ולא ייתפס. למשל, ישנה היעדרות של כלים אמינים לבדיקה אם תלמיד כתב מאמר או השתמש ב-GenAI. הטכנולוגיה פשוט רחוקה מדי.

לרגולט את זה היה מורכב מאוד, ולהיות כן, אנו היינו נוסעים על קרח דק. אנו יודעים שחברות טכנולוגיה הן עשורים מראשי הרגולטורים המוצעים. אבל אנו טובים ביצירת נתיב, לא בהימנעות. עם זאת, בסוף היום, עלולה להיפול על החדשנים לנסות ליישם שליטה. מי אחר יכול היה לעשות זאת – באופן אחראי?

יש הרבה פוליטיקאים שהיו רוצים לנסות. הסיכון, בנוסף לחוסר הבנה, הוא אם הם היו בעלי סדר יום פוליטי אישי לקדם. התמקדותם, פוטנציאלית, הייתה פחות על גידול AI ויותר על עשיית מה שנמצא בטובתם הפוליטית. הם עלולים לעבוד על חששות ציבוריות, באמצעות יד כבדה לבלום את התקדמותה.

חוק CHIPS ומדע היה דוגמה טובה לפעולה ממשלתית בריאה, שיצרה עלייה דרמטית של 15 פעמים בבניית מתקני ייצור למחשבים והתקנים אלקטרוניים. אבל זה היה אפשרי דרך ביפורטיות – דבר שהולך ונעלם.

האם אנו ראויים?

יש הרבה כסף זורם ל-AI ובמהלך שני העשורים הבאים הרבה יוכל להיעשות על ידי חברות טכנולוגיה. כמה, כמה מהר וכמה בטוח – נותר לראות. בכל יום נתון, ניתן להפיץ תמונת עמית, המראה מישהו באור הזרקורים משחק כדורים עם ביצים של ציפורים בסכנת הכחדה. הציבור יגיב באימה, ואף על פי שזה עשוי להתגלות כמונע AI, הביצה לא תחזור לקליפה – הנזק כבר נעשה.

אנו צריכים דברים כאלה להיות מוסדרים על ידי טכנולוגים מודעים. מהי הצורה – מועצה, גוף תקינה, מסגרת בינלאומית – נותר לראות. מה שידוע הוא AI נמצאת על קשת האמון, וכתעשייה, אנו צריכים להוכיח שאנו ראויים לזה.