IA Federală și Militară a SUA: O Nouă Platformă Oferește Validare și Acreditare a Algoritmilor

O companie startup care are un consiliu consultativ format din foști luminari guvernamentali și militari a lansat o nouă platformă proiectată pentru a evalua securitatea și posibilitatea de implementare a aplicațiilor de inteligență artificială. Printre primii utilizatori ai sistemului se numără Forțele Aeriene ale SUA și Departamentul pentru Securitate Internă.

Platforma se numește VESPR, de la CalypsoAI, fondată în 2018, cu sediul central în Silicon Valley, Dublin și o locație “nedezvăluită” în Virginia – terenul firmei CIA de la Langley.

VESPR este un sistem de gestionare a riscurilor modelului (MRM) proiectat pentru a facilita un sistem de acreditare conform cerințelor federale pentru algoritmii implementați. Acesta oferă atât un mediu cu interfață grafică utilizator (GUI) prietenoasă, cât și o interfață de linie de comandă (CLI) pentru utilizări mai avansate.

Click pentru mărire. Source: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR se bazează pe standardele de validare, verificare și acreditare a învățării automate ale CalypsoAI și dispune de biblioteci de învățare automată adversă create manual. De asemenea, oferă rutine de testare automată pentru algoritmii potențiali care pot fi implementați.

Forța de Muncă pentru Resursele Naționale de Cercetare a Inteligenței Artificiale

Lansarea platformei poate fi legată de lansarea de ieri a unei noi Forțe de Muncă pentru Resursele Naționale de Cercetare a Inteligenței Artificiale de către administrația Biden, un organism destinat să servească ca comitet consultativ federal în conformitate cu Legea Inițiativelor Naționale de Inteligență Artificială din 2020 a Congresului.

Presiunea pentru standarde de reglementare semnificative pentru sistemele de învățare automată a crescut în SUA și în întreaga lume, în special în domenii critice, cum ar fi infrastructura cheie și utilizarea militară. Deoarece sistemele de învățare automată se află încă într-o etapă formativă și au un ritm rapid de progres, acestea reprezintă o soluție relativ instabilă și adesea controversată, de la care este esențial să se identifice algoritmi analitici replicabili și de încredere – dacă acest lucru se dovedește a fi posibil.

În aprilie, CalypsoAI și-a exprimat sprijinul pentru Legea Frontierelor Fără Sfârșit, un proiect de lege al Congresului destinat să reformeze finanțarea științei în fața creșterii puterii Chinei în domeniul inteligenței artificiale, deși actul a fost ulterior slăbit la etapa Senatului.

Validare pentru Inteligența Artificială Federală

Conform comunicatului de presă VESPR, domeniile acoperite de cadrul includ viziunea computerizată și procesarea limbajului natural (NLP).

CalypsoAI afirmă că VESPR a fost creat cu “input critic de la clienții naționali de securitate existenți și a fost născut din ani de cercetare independentă finanțată în domeniul învățării automate adverse”.

Imaginile sistemului văzute într-un videoclip promoțional (a se vedea sfârșitul articolului) par să includă rutine de detectare și/sau simulare pentru otrăvirea datelor și injecția de zgomot, oferind simulări pentru acțiunile potențialilor atacatori asupra sistemelor implementate.

Click pentru mărire.

Sistemul pare să utilizeze date istorice naționale, precum și date străine. Clasele țintă prezentate includ “Proteste” și “Revoltă”, precum și “Dezvoltări strategice”, mai puțin clare. Incidentele de terorism național par să fie incluse, de asemenea, în bazele de date de referință ale sistemului, cu “Violență împotriva civililor” o altă clasă țintă disponibilă. Alte clase țintă disponibile includ “Bătălii” și “Explozii/Violență la distanță”.

Click pentru mărire.

Sistemul pare să permită protejarea caracteristicilor într-o secțiune “Managementul prejudecăților” a configurării, aparent proiectată pentru a combate suprapunerea sau pentru a evita eliminarea evenimentelor minore care pot fi de interes într-o rutină analitică. În videoclip, VESPR procesează date istorice tabulare despre “Ucraina”.

Dincolo de această campanie promoțională inițială, este puțin probabil (poate din cauza designului) să auzim mai mult despre acest produs SaaS orientat către guvern; împărtășește numele cu o franciză de baruri de cafea, o aplicație de dating social și un album de streaming și este învins constant în rezultatele clasificate de modelul chimic VSEPR.

CalypsoAI a primit 13 milioane de dolari în finanțare Seria A de la Paladin Capital Venture Group în iulie 2020. Alți investitori au inclus 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners și Pallas Ventures.

Într-o postare pe blog pe site-ul companiei, fondatorul CalypsoAI, Neil Serebryany, care a efectuat cercetări ne specificate la Departamentul Apărării în 2018, afirmă că compania a fost fondată ca o posibilă soluție pentru teama guvernelor de a implementa sisteme algoritmice avansate într-un climat nereglementat:

‘Motivul principal pentru această teamă de proiecte de inteligență artificială, care duce la abandonarea lor în cadrul guvernului, sună banal, dar este de fapt foarte complex. Acestea au fost abandonate din cauza lipsei de asigurare a calității […] Modelele de inteligență artificială nu pot fi evaluate în același mod ca și software-ul tradițional. Acest lucru se datorează naturii subiacente a structurii modelului și modurilor complexe în care acestea pot eșua. Lipsind un mecanism pentru a evalua aceste sisteme nedeterminate într-un mod determinist, auditabil, organizațiile din guvern nu au putut evalua așa-numita “calitate” a modelelor de inteligență artificială împotriva unui standard. Acest lucru a dus la teama că acestea pot eșua, pot fi defecte sau pot fi compromise de un adversar în momentul în care sunt necesare cel mai mult, de exemplu, în luptă, în zbor sau în timpul unei proceduri medicale complexe. ‘

Consiliul Consultativ

Cu o lună înainte de runda de investiții, compania a creat un Consiliu Consultativ pentru Securitate Națională, care include Tony DeMartino, fost consilier al secretarului apărării Jim Mattis, și acum partener fondator al firmei de consultanță strategică Pallas Advisors; fostul adjunct al subsecretarului apărării pentru informații (sub președintele Trump) Kari Bingen; fostul director adjunct pentru inovarea digitală a CIA Sean Roche, un fost specialist în informații cibernetice în acea organizație; și Michael Molino, fost vicepreședinte executiv pentru dezvoltare corporativă la ASRC Federal, care oferă capacități de consultanță, cercetare și migrare tehnică într-o gamă largă de servicii federale critice.

Conform comunicatului de presă:

‘VESPR oferă capacități avansate de testare a inteligenței artificiale, cu un flux de lucru simplificat, pentru a asigura că fiecare algoritm de învățare automată pus în producție a fost verificat și securizat. VESPR oferă securitate și asigurare fără precedent pentru o varietate de sisteme de inteligență artificială, de la viziunea computerizată la procesarea limbajului natural. Procesul VESPR asigură testarea, evaluarea, verificarea și validarea (TEVV) pe parcursul întregului ciclu de viață al învățării automate securizate (SMLC), de la faza de cercetare și dezvoltare până la implementarea modelului. Rezultatul final este sisteme de inteligență artificială care oferă monitorizare și raportare precisă și cuprinzătoare a capacităților, vulnerabilităților și performanței modelului.’

Actualizat la 11:07 EST pentru a reflecta faptul că Michael Molino nu mai lucrează la ASRC Federal, o eroare în articolul original.

Actualizat la 28 ianuarie 2024 pentru a elimina videoclipul YouTube întrerupt.