AI Federal și Militar al SUA: O Nouă Platformă Oferă Validarea și Acreditarea Algoritmilor

Un startup care are în comitetul său consultativ foști lideri militari ai guvernului a lansat o nouă platformă concepută pentru a evalua securitatea și implementabilitatea aplicațiilor AI. Se spune că primii adoptatori ai sistemului includ Forțele Aeriene ale SUA și Departamentul pentru Securitate Internă.

Platforma se numește VESPR, de la CalypsoAI, fondată în 2018, cu sediul în Silicon Valley, Dublin și o locație oficial „nedivulgată” în Virginia – teritoriul CIA de la Langley.

VESPR este un sistem de gestionare a riscului modelului (MRM) conceput pentru a facilita un sistem de acreditare în conformitate cu normele federale pentru algoritmi implementați. Oferă atât un mediu GUI de tip panou de control prietenos cu utilizatorul, cât și o interfață CLI pentru utilizări avansate.

Click to enlarge.

VESPR se bazează pe standardele de validare, verificare și acreditare a învățării automate ale CalypsoAI și include biblioteci de învățare adversarială create manual. De asemenea, oferă rutine automate de testare a stresului pentru algoritmi potențial implementabili.

Grupul de Lucru Național pentru Resursele de Cercetare în Inteligență Artificială

Momentul lansării ar putea fi legat de lansarea de ieri de către administrația Biden a unui nou Grup de Lucru Național pentru Resursele de Cercetare în Inteligență Artificială, un organism conceput să servească ca comitet consultativ federal în conformitate cu Legea Națională a Inițiativei AI din 2020 a Congresului.

Presiunea a crescut asupra SUA și la nivel global pentru standarde de reglementare semnificative ale sistemelor de învățare automată, în special în domenii critice precum infrastructura cheie și utilizarea militară. Deoarece sistemele ML se află încă într-o etapă de formare și evoluează rapid, ele reprezintă o resursă relativ instabilă și adesea controversată, din care este acum esențial să se identifice algoritmi analitici replicabili și de încredere – dacă acest lucru se dovedește posibil.

În aprilie, CalypsoAI și-a exprimat sprijinul pentru Endless Frontiers Act, un proiect de lege al Congresului conceput pentru a reforma finanțarea științei în contextul creșterii influenței Chinei ca putere în AI, deși actul a fost în cele din urmă atenuat în Senat.

Validare pentru AI Federal

Conform comunicatului de presă VESPR, domeniile acoperite de cadru includ viziunea computerizată și procesarea limbajului natural (NLP).

CalypsoAI susține că VESPR a fost creat „cu contribuții esențiale din partea clienților existenți din domeniul securității naționale și născut din ani de cercetare finanțată independent în domeniul învățării adversariale”.

Imaginile sistemului vizibile într-un videoclip promoțional (vezi sfârșitul articolului) par să includă rutine de detectare și/sau simulare pentru otrăvirea datelor și injectarea de zgomot, oferind simulări ale acțiunilor potențialilor atacatori asupra sistemelor implementate.

Click to enlarge.

Sistemul pare să utilizeze date istorice ale acțiunilor naționale, precum și ale celor străine. Clasele de țintă prezentate includ „Proteste” și „Războaie civile”, pe lângă „Dezvoltări strategice”, mai puțin clar definite. Incidentele de terorism național par, de asemenea, să fie incluse în bazele de date de referință ale sistemului, cu „Violență împotriva civililor” ca altă clasă de țintă disponibilă. Alte clase de țintă disponibile includ „Bătălii” și „Explozări/Violență la distanță”.

Click to enlarge.

Sistemul pare să permită protecția caracteristicilor într-o secțiune de „gestionare a părtinirii” a configurării, aparent concepută pentru a combate supraînvățarea sau pentru a evita eliminarea nedorită a evenimentelor izolate minore care ar putea fi de interes într-o rutină analitică. În videoclip, VESPR procesează date istorice tabelare despre „Ucraina”.

Dincolo de această campanie promoțională inițială, nu este probabil (poate din intenție) să auzim mult mai multe despre acest produs SaaS orientat spre guvern, indiferent de performanța sa; își împărtășește numele cu o franciză de cafenele, o aplicație de întâlniri sociale și un album de streaming, și este constant depășit în rezultatele clasate de modelul chimic VSEPR.

CalypsoAI a primit 13 de milioane de dolari în finanțare Serie A de la Paladin Capital Venture Group în iulie 2020. Alți investitori au inclus 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners și Pallas Ventures.

Într-o postare pe blogul site-ului companiei, fondatorul CalypsoAI, Neil Serebryany, care a desfășurat cercetări nespecificate la Departamentul Apărării în 2018, afirmă că compania a fost fondată ca o posibilă soluție la teama guvernelor de a implementa sisteme algoritmice avansate într-un climat nereglementat:

‘Motivul principal al acestei temeri față de proiectele AI, care le-a determinat să fie abandonate în interiorul Guvernului, pare prozaic, dar este de fapt destul de complex. Ele erau abandonate din cauza lipsei asigurării calității […] Modelele AI nu pot fi evaluate în același mod în care sunt evaluate modelele software tradiționale. Acest lucru se datorează naturii fundamentale a structurii modelului și modurilor extrem de complexe în care acestea pot eșua. Lipsa unui mecanism de evaluare a acestor sisteme nedeterministe într-un mod determinist, auditabil, a împiedicat organizațiile guvernamentale să evalueze așa-numita „calitate” a modelelor AI în raport cu un reper. Aceasta a generat teama că ar putea eșua, ar putea funcționa defectuos sau ar putea fi hackate de un adversar în momentele în care sunt cele mai necesare, de exemplu în luptă, în zbor sau în timpul unei proceduri medicale complexe.’

Consiliul Consultativ

Un lună înainte de runda de investiții, compania a creat un Consiliu Consultativ de Securitate Națională care include pe Tony DeMartino, fost asistent al Secretarului Apărării Jim Mattis și acum partener fondator al firmei de consultanță strategică cu sediul în Washington, Pallas Advisors; pe Kari Bingen, fost Principal Deputy Under Secretary of Defense for Intelligence (în timpul președintelui Trump); pe Sean Roche, fost Associate Deputy Director pentru Inovație Digitală la CIA, un fost specialist în cyber‑intelligence în acea organizație; și pe Michael Molino, fost Vicepreședinte Executiv pentru dezvoltare corporativă la ASRC Federal, care furnizează servicii de consultanță, cercetare și migrare tehnică pentru o gamă largă de servicii federale critice.

Conform comunicatului:

‘VESPR oferă capabilități avansate de testare AI cu un flux de lucru simplificat pentru a asigura că fiecare algoritm de învățare automată pus în producție a fost verificat ca fiind sigur. VESPR furnizează o securitate și o garanție fără egal pentru o varietate de sisteme AI, de la viziune computerizată la procesarea limbajului natural. Procesul VESPR asigură testarea, evaluarea, verificarea și validarea (TEVV) pe parcursul întregului ciclu de viață al învățării automate securizate (SMLC), de la faza de cercetare și dezvoltare până la implementarea modelului. Rezultatul final sunt sisteme AI care oferă monitorizare și raportare precise și cuprinzătoare asupra capacităților, vulnerabilităților și performanței modelelor.’

Actualizat la 11:07 AM EST pentru a reflecta faptul că Michael Molino nu mai lucrează la ASRC Federal, o errata în articolul original.

Actualizat la 1January 28, 2024 pentru a elimina videoclipul YouTube defect.