Savezna i vojna umjetna inteligencija SAD-a: Nova platforma nudi provjeru valjanosti i akreditaciju algoritama

Startup koji ima savjetodavni odbor bivših vladinih vojnih čelnika objavio je novu platformu dizajniranu za procjenu sigurnosti i mogućnosti primjene AI aplikacija. Kaže se da su među prvima koji su prihvatili sustav američke zračne snage i Ministarstvo domovinske sigurnosti.

Platforma se zove VESPR, od tvrtke CalypsoAI, osnovane 2018. godine, sa sjedištem u Silicijskoj dolini, Dublin, i službeno 'neotkrivenom' lokacijom u Virginiji – terra firma za CIA-u u Langleyu.

VESPR je model upravljanja rizikom (MRM) sustav dizajniran za olakšavanje federalno usklađenog sustava akreditacije za implementirane algoritme. Nudi GUI okruženje u stilu nadzorne ploče i CLI sučelje za napredniju upotrebu.

Klikni za povećanje. Izvor: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR se temelji na CalypsoAI-jevim standardima validacije, verifikacije i akreditacije strojnog učenja i sadrži ručno izrađene biblioteke kontradiktornog strojnog učenja. Također nudi automatizirane rutine testiranja otpornosti na stres za potencijalne algoritme koji se mogu primijeniti.

Nacionalna radna skupina za resurse istraživanja umjetne inteligencije

Vrijeme objave može se odnositi na jučerašnje meluncurkan Bidenova administracija nove Nacionalne radne skupine za istraživanje umjetne inteligencije, tijela osmišljenog da služi kao savezni savjetodavni odbor u skladu s Kongresom Zakon o nacionalnoj inicijativi za umjetnu inteligenciju iz 2020.

Pritisak na SAD i diljem svijeta raste za smislenim regulatornim standardima za sustave strojnog učenja, ne samo u kritičnim područjima kao što su ključna infrastruktura i vojna uporaba. Budući da ML sustavi još uvijek prolaze kroz fazu formiranja i brzu stopu napretka, oni predstavljaju relativno nestabilno i često kontroverzno utočište iz kojeg je sada bitno identificirati replicirane i pouzdane analitičke algoritme – ako se to pokaže mogućim.

U travnju je CalypsoAI objavio svoju podršku za Zakon o beskrajnim granicama, kongresni prijedlog zakona osmišljen za reformu financiranja znanosti u svjetlu rastuće eminencije Kine kao sile umjetne inteligencije, iako je taj akt u konačnici bio zalijeva na pozornici Senata.

Validacija za Federal AI

Prema priopćenju VESPR-a, područja obuhvaćena okvirom uključuju računalni vid i obradu prirodnog jezika (NLP).

CalypsoAI tvrdi da je VESPR stvoren 'uz kritične doprinose postojećih korisnika nacionalne sigurnosti i nastao kao rezultat godina neovisno financiranog istraživanja kontradiktornog strojnog učenja'.

Čini se da slike sustava koje se vide u promotivnom videu (pogledajte kraj članka) uključuju rutine detekcije i/ili simulacije za trovanje podataka i ubacivanje buke, pružajući simulacije za akcije potencijalnih napadača na postavljene sustave.

Klikni za povećanje.

Čini se da sustav koristi povijesne podatke o nacionalnim i stranim akcijama. Istaknute ciljne klase uključuju 'Prosvjede' i 'Nemire', uz manje jasan 'Strateški razvoj'. Čini se da su incidenti nacionalnog terorizma također uključeni u referentne baze podataka sustava, s 'Nasiljem nad civilima još jednom dostupnom ciljanom klasom. Druge dostupne ciljne klase uključuju 'Bitke' i 'Eksplozije/nasilje na daljinu'.

Klikni za povećanje.

Čini se da sustav dopušta zaštitu značajki u odjeljku konfiguracije "BIAS management", koji je očito dizajniran za borbu protiv prekomjernog opremanja ili za izbjegavanje neželjene eliminacije manjih izvanrednih događaja koji bi mogli biti od interesa u analitičkoj rutini. U videu VESPR obrađuje tablične povijesne podatke o 'Ukrajini'.

Osim ovog početnog promotivnog bljeska, nije vjerojatno (možda zbog dizajna) da ćemo čuti mnogo više o ovom SaaS proizvodu okrenutom prema vladi, kako god stajao; dijeli svoje ime s franšizom kafića, aplikacijom za upoznavanje na društvenim mrežama i albumom za strujanje, a VSEPR kemijski model ga nemilosrdno pobjeđuje u rangiranim rezultatima.

CalypsoAI primio $ 13 milijuna u seriji A prikupljanje sredstava od Paladin Capital Venture Group u srpnju 0f 2020. Ostali ulagači uključen 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners i Pallas Ventures.

U objavi na blogu na web stranici tvrtke, osnivač CalypsoAI-ja Neil Serebryany, koji je 2018. poduzeo nespecificiran istraživački rad u Ministarstvu obrane, navodi da je tvrtka osnovana kao moguće rješenje za strah vlada od postavljanja naprednih algoritamskih sustava u nereguliranoj klimi :

'Primarni razlog za ovaj strah od projekata umjetne inteligencije, koji dovodi do njihovog napuštanja unutar Vlade, zvuči prozaično, ali je zapravo prilično složen. Bili su napušteni zbog nedostatka osiguranja kvalitete […] Modeli umjetne inteligencije ne mogu se procijeniti na isti način kao tradicionalni softverski modeli. To je zbog temeljne prirode strukture modela i vrlo složenih načina na koje mogu zakazati. U nedostatku mehanizma za procjenu ovih nedeterminističkih sustava na deterministički način koji se može revidirati, organizacije unutar vlade nisu mogle procijeniti takozvanu 'kvalitetu' modela umjetne inteligencije u odnosu na referentnu vrijednost. To je dovelo do straha da bi mogli zakazati, kvariti se ili da bi ih protivnik mogao hakirati u trenutku kada su najpotrebniji, primjerice u borbi, bijegu ili tijekom složenog medicinskog postupka. '

Savjetodavni odbor

Mjesec dana prije kruga ulaganja, tvrtka je osnovala Nacionalni sigurnosni savjetodavni odbor uključujući Tony DeMartino, bivši pomoćnik ministra obrane Jima Mattisa, a sada partner osnivač strateške savjetodavne tvrtke Pallas Advisors sa sjedištem u Washingtonu; bivši glavni zamjenik ministra obrane za obavještajne poslove (za vrijeme predsjednika Trumpa) Kari Bingen; bivši pomoćnik zamjenika direktora CIA-e za digitalne inovacije Sean Roche, bivši stručnjak za kibernetičku inteligenciju u toj organizaciji; i Michael Molino, bivši izvršni potpredsjednik korporativnog razvoja u ASRC Federal, koji pruža savjetodavne, istraživačke i tehničke mogućnosti migracije u nizu ključnih federalnih usluga.

Prema priopćenju:

'VESPR pruža napredne mogućnosti testiranja umjetne inteligencije s pojednostavljenim tijekovima rada kako bi se osiguralo da je svaki algoritam strojnog učenja stavljen u proizvodnju provjereno siguran. VESPR pruža neusporedivu sigurnost i jamstvo raznim AI sustavima, od računalnog vida do obrade prirodnog jezika. Proces VESPR osigurava testiranje, evaluaciju, verifikaciju i validaciju (TEVV) tijekom životnog ciklusa sigurnog strojnog učenja (SMLC), od faze istraživanja i razvoja do implementacije modela. Krajnji rezultat su AI sustavi koji pružaju točan i sveobuhvatan nadzor i izvješćivanje o mogućnostima modela, ranjivostima i performansama.'

Ažurirano u 11:07 EST kako bi se pokazalo da Michael Molino više ne radi u ASRC Federal, pogreška u izvornom članku.

Ažurirano 1. 28. siječnja 2024. za uklanjanje pokvarenog YouTube videozapisa.