AI פדרלי וצבאי של ארה”ב: פלטפורמה חדשה מציעה אימות אלגוריתמים ואישור

חברת סטארט-אפ שיש לה דירקטוריון יועצים הכולל דמויות בולטות לשעבר בממשל ובצבא, השיקה פלטפורמה חדשה שנועדה לבדוק את הביטחון ואת היכולת לפריסה של יישומי AI. מאמצים מוקדמים של המערכת כוללים את חיל האוויר של ארצות הברית ואת מחלקת הביטחון הלאומית.

הפלטפורמה נקראת VESPR, מחברת CalypsoAI, שנוסדה ב-2018, עם מטה בעמים בסיליקון וואלי, דבלין, ומיקום ‘לא גלוי’ בווירג’יניה – אדמת מולדת של ה-CIA בלאנגלי.

VESPR היא מערכת ניהול סיכוני מודל (MRM) שנועדה להקל על מערכת מערכתית של אישור לאלגוריתמים מופרסים. היא מציעה סביבת GUI ידידותית למשתמש וכן ממשק CLI לשימוש מתקדם יותר.

לחץ להגדלה. Source: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR מבוססת על תקני אימות, אישור ואישור של CalypsoAI, וכוללת ספריות מכונות למידה אדוורסריות מותאמות. היא מציעה גם ניתובים אוטומטיים של בדיקות לחוזק לאלגוריתמים פוטנציאליים.

כוח משימה לאומי למשאבי מחקר AI

זמן השקת הפלטפורמה עשוי להיות קשור לשקת המנהל ביידן שקיעה של כוח משימה לאומי חדש למשאבי מחקר AI, גוף שנועד לשמש כוועדה יועצת פדרלית על פי חוק היוזמה הלאומית ל-AI של 2020.

לחץ גובר על ארה”ב, וברחבי העולם, לתקנים רגולטוריים משמעותיים למערכות למידת מכונה, לא רק בתחומים ביקריים כגון תשתיות מפתח ושימוש צבאי. מאחר שמערכות ML עדיין נמצאות בשלב התפתחותי ובקצב התקדמות מהיר, הן מייצגות משאב יחסית לא יציב ושנוי במחלוקת, ממנו עלינו לזהות אלגוריתמים אנליטיים אמינים ואמינים – אם זה אפשרי.

באפריל CalypsoAI פרסמה את תמיכתה ב חוק Endless Frontiers, הצעת חוק קונגרסית שנועדה לרפורמת מימון מדעי בפני התפתחותה הגוברת של סין כמעצמת AI, אם כי החוק הוחלש בשלב הסנאט.

אימות ל-AI פדרלי

על פי הודעה לעיתונות של VESPR, התחומים המכוסים על ידי המסגרת כוללים ראייה ממוחשבת ועיבוד שפה טבעית (NLP).

CalypsoAI טוענת כי VESPR נוצרה ‘עם קלט קריטי מלקוחות ביטחון לאומי קיימים ונולדה משנים של מחקר עצמאי ממומן בתחום מכונות למידה אדוורסריות’.

תמונות של המערכת הנראות בסרטון פרומוציה (ראו סוף המאמר) כוללות גילוי ו/או סימולציה של ריסוס נתונים והזרקת רעש, ומספקות סימולציות לפעולות של תוקפים פוטנציאליים למערכות מופרסות.

לחץ להגדלה.

המערכת נראית כאילו היא משתמשת בנתונים היסטוריים לאומיים וזרים. הקטגוריות המטרה שמוצגות כוללות ‘מחאות’ ו’מהומות’, בנוסף ל’פיתוחים אסטרטגיים’ הפחות ברורים. אירועי טרור לאומיים נראים גם הם כאילו הם כלולים בבסיסי הנתונים של המערכת, עם ‘אלימות נגד אזרחים’ כקטגוריה מטרה זמינה. קטגוריות מטרה אחרות כוללות ‘קרבות’ ו’פיצוצים/אלימות מרחוק’.

לחץ להגדלה.

המערכת נראית כאילו היא מאפשרת הגנה על תכונות בחלק ‘ניהול הטיה’ של תצורה, שנראה כאילו הוא תוכנן להילחם ב- overfitting או למנוע את המחיקה הבלתי רצויה של אירועים חריגים מינוריים שעשויים להיות מעניינים ברוטינה אנליטית. בסרטון, VESPR מעבדת נתונים טבלאיים היסטוריים על ‘אוקראינה’.

מעבר למתקפת הפרסום הראשונית, לא סביר (אולי במכוון) שנשמע הרבה יותר על מוצר SaaS זה הפונה לממשל, איך שהוא יועיל; היא חולקת את שמה עם בר קפה, אפליקציית היכרויות חברתית ואלבום הזרמת מוזיקה, ונדחקת בתוצאות החיפוש על ידי מודל הכימיה VSEPR.

CalypsoAI קיבלה 13 מיליון דולר בגיוס הון סדרה A מ-Paladin Capital Venture Group ביולי 2020. משקיעים אחרים כללו 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners ו-Pallas Ventures.

בפוסט בבלוג באתר החברה, מייסד CalypsoAI, ניל סרבריאני, שערך עבודת מחקר בלתי מוגדרת במחלקת ההגנה ב-2018, מצהיר כי החברה נוסדה כפתרון אפשרי לחששות הממשלה מפני הפריסה של מערכות אלגוריתמיות מתקדמות באווירה לא מוסדרת:

‘הסיבה העיקרית לחשש הזה מפרויקטי AI, המובילים לנטישתם בתוך הממשל, נשמעת פרוזאית, אך למעשה מורכבת. הם ננטשו עקב מחסור באיכות… מודלי AI לא יכולים להיבדק באותו אופן שמודלים תוכנתיים מסורתיים. זה בגלל המבנה התת-מודלי והדרכים המורכבות מאוד שבהן הם יכולים לכשל. ללא מנגנון להעריך מערכות לא-דטרמיניסטיות בדרך דטרמיניסטית, אודיטורית, ארגונים בתוך הממשל לא יכלו להעריך את ‘האיכות’ של מודלי AI לעומת ברקמטר. זה הוביל לחשש שהם יכולים לכשל, לתקל, או להישבר על ידי יריב בעת שהם נדרשים, למשל, בקרב, בטיסה, או בהליך רפואי מורכב.’

דירקטוריון יועצים

חודש לפני סבב ההשקעות, החברה הקימה דירקטוריון יועצים לאומי לביטחון, כולל טוני דה-מרטינו, עוזר לשעבר למזכיר ההגנה ג’ים מאטיס, וכיום שותף מייסד של חברת הייעוץ האסטרטגי Pallas Advisors; קארי בינגן, סגנית לשעבר של מזכיר ההגנה למודיעין (תחת נשיא טראמפ); שון רוץ’, סגן לשעבר של ה-CIA לחדשנות דיגיטלית, מומחה למודיעין סייבר בארגון; ו-מייקל מולינו, סגן לשעבר של נשיא הפיתוח התאגידי ב-ASRC Federal, המספק שירותים ייעוציים, מחקר וטכניים במגוון רחב של שירותים פדרליים.

על פי ההודעה:

‘VESPR מספקת יכולות בדיקה מתקדמות של AI עם זרימת עבודה מזרמת להבטיח שכל אלגוריתם למידת מכונה שמופק בייצור הוכח כבטוח. VESPR מספקת ביטחון ואישור בלתי מושגים למערכות AI שונות, מראייה ממוחשבת ועד עיבוד שפה טבעית. תהליך VESPR מבטיח בדיקה, הערכה, אישור ואימות (TEVV) לאורך כל מחזור החיים של למידת מכונה בטוחה (SMLC), משלב המחקר והפיתוח ועד לפריסת המודל. התוצאה הסופית היא מערכות AI המספקות מעקב ודו”חות מדויקים ומקיפים על יכולות המודל, פגיעויות וביצועים.’

עודכן ב-11:07 AM EST לשקף כי מייקל מולינו אינו עובד עוד ב-ASRC Federal, שגיאה במאמר המקורי.

עודכן ב-1 בינואר 2024 להסיר קישור YouTube שבור.