AI federală și militară din SUA: o nouă platformă oferă validare și acreditare a algoritmului

O companie startup care include un consiliu consultativ format din foști luminari militari guvernamentali a lansat o nouă platformă concepută pentru a evalua securitatea și capacitatea de implementare a aplicațiilor AI. Se spune că primii adoptatori ai sistemului includ Forțele Aeriene ale SUA și Departamentul pentru Securitate Internă.

Platforma se numește VESPR, de la CalypsoAI, fondată în 2018, cu sediul în Silicon Valley, Dublin și o locație oficial „nedezvăluită” în Virginia – terra firma pentru CIA la Langley.

VESPR este un sistem model de management al riscului (MRM) conceput pentru a facilita un sistem de acreditare conform federal pentru algoritmii implementați. Oferă atât un mediu GUI în stil tablou de bord ușor de utilizat, cât și o interfață CLI pentru o utilizare mai avansată.

Click pentru a mari. Sursa: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR este întemeiat pe standardele de validare, verificare și acreditare ale învățării automate ale CalypsoAI și oferă biblioteci de învățare automată adversare realizate manual. De asemenea, oferă rutine automate de testare a stresului pentru potențiali algoritmi implementați.

Grupul Național de Resurse de Cercetare în Inteligența Artificială

Momentul lansării poate fi legat de cel de ieri lansa de către administrația Biden a unui nou Grup Național de Resurse de Cercetare a Inteligenței Artificiale, un organism conceput să servească drept comitet consultativ federal în conformitate cu prevederile Congresului. Actul Național de Inițiativă AI din 2020.

A crescut presiunea asupra SUA și în întreaga lume pentru standarde de reglementare semnificative pentru sistemele de învățare automată, nu în ultimul rând în domenii critice pentru misiune, cum ar fi infrastructura cheie și utilizarea militară. Întrucât sistemele ML se confruntă încă cu o etapă formativă și o rată rapidă de progres, ele reprezintă un recurs relativ instabil și adesea controversat din care acum este esențial să identificăm algoritmi analitici replicabili și fiabili – dacă acest lucru se dovedește a fi posibil.

În aprilie, CalypsoAI și-a publicat sprijinul pentru Legea frontierelor fără sfârșit, un proiect de lege al Congresului conceput pentru a reforma finanțarea științei în fața eminenței tot mai mari a Chinei ca putere AI, deși actul a fost în cele din urmă udat la etapa Senatului.

Validare pentru IA federală

Potrivit comunicatului de presă VESPR, domeniile acoperite de cadru includ viziunea computerizată și procesarea limbajului natural (NLP).

CalypsoAI susține că VESPR a fost creat „cu contribuții critice din partea clienților existenți ai securității naționale și s-a născut din anii de cercetare finanțată independent în învățarea automată adversară”.

Imaginile sistemului văzute într-un videoclip promoțional (vezi sfârșitul articolului) par să includă rutine de detectare și/sau simulare pentru otrăvirea datelor și injectarea de zgomot, oferind simulări pentru acțiunile potențialilor atacatori asupra sistemelor desfășurate.

Click pentru a mari.

Sistemul pare să utilizeze date istorice ale acțiunii naționale și externe. Clasele țintă prezentate includ „Proteste” și „Revolte”, pe lângă „evoluții strategice” mai puțin clare. Incidentele de terorism național par să fie, de asemenea, incluse în bazele de date de referință ale sistemului, cu „Violența împotriva civililor o altă clasă țintă disponibilă. Alte clase țintă disponibile includ „Bătălii” și „Explozii/Violență la distanță”.

Click pentru a mari.

Sistemul pare să permită protecția caracteristicilor într-o secțiune de configurare „management BIAS”, aparent concepută pentru a combate supraadaptarea sau pentru a evita eliminarea nedorită a evenimentelor minore care pot fi de interes într-o rutină analitică. În videoclip, VESPR procesează date istorice tabelare despre „Ucraina”.

Dincolo de acest blitz promoțional inițial, nu este probabil (poate prin proiectare) să auzim mult mai multe despre acest produs SaaS cu fața guvernamentală, indiferent de cum se descurcă; își împărtășește numele cu o franciză de cafenele, o aplicație de întâlniri sociale și un album de streaming și este învins neîncetat în rezultatele clasate de modelul de chimie VSEPR.

CalypsoAI a primit $ 13 de milioane de în strângerea de fonduri din seria A de la Paladin Capital Venture Group în iulie 0f 2020. Alți investitori inclus 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners și Pallas Ventures.

Într-o postare pe blog pe site-ul companiei, fondatorul CalypsoAI, Neil Serebryany, care a întreprins lucrări de cercetare nespecificate la Departamentul Apărării în 2018, afirmă că compania a fost fondată ca o posibilă soluție la teama guvernelor de a implementa sisteme algoritmice avansate într-un climat nereglementat. :

„Motivul principal pentru această frică de proiectele AI, care duce la abandonarea lor în interiorul Guvernului, sună prozaic, dar este de fapt destul de complex. Acestea au fost abandonate din cauza lipsei de asigurare a calității […] Modelele AI nu pot fi evaluate la fel cum sunt modelele software tradiționale. Acest lucru se datorează naturii subiacente a structurii modelului și modalităților extrem de complexe în care acestea pot eșua. În lipsa unui mecanism care să evalueze aceste sisteme nedeterministe într-un mod determinist, auditabil, organizațiile din interiorul guvernului nu au fost în măsură să evalueze așa-numita „calitatea” modelelor AI în raport cu un etalon. Acest lucru a condus la teama că ar putea eșua, ar putea funcționa defectuos sau ar putea fi piratați de un adversar în momentul în care este nevoie cel mai mult, de exemplu în luptă, în zbor sau în timpul unei proceduri medicale complexe. '

Consiliul consultativ

Cu o lună înainte de runda de investiții, compania a creat un Consiliu Consultativ pentru Securitate Națională, inclusiv Tony DeMartino, fost consilier al Secretarului Apărării Jim Mattis și acum partener fondator al firmei de consultanță strategică Pallas Advisors din Washington; fost subsecretar principal adjunct al Apărării pentru Informații (sub președintele Trump) Kari Bingen; fost director adjunct asociat pentru CIA Digital Inovation Sean Roche, un fost specialist în cyber-intelligence în acea organizație; și Mihai Molino, fost vicepreședinte executiv pentru dezvoltare corporativă la ASRC Federal, care oferă consiliere, cercetare și capacități de migrare tehnică într-o serie de servicii federale critice.

Potrivit comunicatului:

„VESPR oferă capabilități avansate de testare AI cu un flux de lucru simplificat pentru a se asigura că fiecare algoritm de învățare automată pus în producție a fost verificat în siguranță. VESPR oferă securitate și asigurare de neegalat unei varietăți de sisteme AI, de la viziunea computerizată la procesarea limbajului natural. Procesul VESPR asigură testarea, evaluarea, verificarea și validarea (TEVV) pe tot parcursul ciclului de viață securizat al învățării automate (SMLC), din faza de cercetare și dezvoltare până la implementarea modelului. Rezultatul final sunt sisteme AI care oferă monitorizare și raportare precisă și cuprinzătoare cu privire la capabilitățile modelului, vulnerabilitățile și performanța.

Actualizat la 11:07 AM EST pentru a reflecta că Michael Molino nu mai lucrează la ASRC Federal, o erată în articolul original.

Actualizat la 1 ianuarie 28, 2024 pentru a elimina videoclipul YouTube rupt.