JAV federalinis ir karinis AI: nauja platforma siūlo algoritmo patvirtinimą ir akreditavimą

Startuolis, kuriame yra buvusių vyriausybės karinių šviesuolių patariamoji taryba, išleido naują platformą, skirtą AI programų saugumui ir įdiegimui įvertinti. Teigiama, kad pirmieji sistemos taikytojai yra JAV oro pajėgos ir Tėvynės saugumo departamentas.

Platforma vadinama VESPR iš CalypsoAI, įkurtos 2018 m., kurios būstinė yra Silicio slėnyje, Dubline, ir oficialiai „neatskleista“ vieta Virdžinijoje – CŽV terra firma Langley mieste.

VESPR yra pavyzdinė rizikos valdymo (MRM) sistema, sukurta siekiant palengvinti federalinius reikalavimus atitinkančią įdiegtų algoritmų akreditavimo sistemą. Ji siūlo ir patogią prietaisų skydelio stiliaus GUI aplinką, ir CLI sąsają, skirtą pažangesniam naudojimui.

Padidinti. Šaltinis: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR yra pagrįstas CalypsoAI mašininio mokymosi patvirtinimo, tikrinimo ir akreditavimo standartais ir turi rankomis sukurtas konkuruojančias mašininio mokymosi bibliotekas. Ji taip pat siūlo automatizuotas galimų diegti algoritmų testavimo nepalankiausiomis sąlygomis procedūras.

Nacionalinė dirbtinio intelekto tyrimų išteklių darbo grupė

Išleidimo laikas gali būti susijęs su vakarykšte pradėti Bideno administracija įkūrė naują Nacionalinę dirbtinio intelekto tyrimų išteklių darbo grupę, organizaciją, sukurtą kaip federalinis patariamasis komitetas pagal Kongreso 2020 m. Nacionalinės AI iniciatyvos aktas.

JAV ir visame pasaulyje didėja spaudimas dėl prasmingų mašininio mokymosi sistemų reguliavimo standartų, ypač svarbiose srityse, tokiose kaip pagrindinė infrastruktūra ir karinis naudojimas. Kadangi ML sistemos vis dar išgyvena formavimosi stadiją ir spartų progresą, jos yra gana nestabilus ir dažnai prieštaringas būdas, iš kurio dabar būtina nustatyti atkartojamus ir patikimus analitinius algoritmus – jei tai įmanoma.

Balandžio mėn. CalypsoAI paskelbė savo paramą Begalinių sienų aktas, Kongreso įstatymo projektas, skirtas reformuoti mokslo finansavimą, atsižvelgiant į didėjančią Kinijos, kaip dirbtinio intelekto galios, svarbą, nors šis aktas galiausiai buvo laistyti Senato etape.

Federalinio AI patvirtinimas

Kaip teigiama VESPR pranešime spaudai, sritys, kurioms taikoma sistema, apima kompiuterinį regėjimą ir natūralios kalbos apdorojimą (NLP).

CalypsoAI teigia, kad VESPR buvo sukurtas „priklausomai nuo esamų nacionalinio saugumo klientų ir buvo sukurtas iš daugelio metų nepriklausomai finansuotų priešpriešinio mašininio mokymosi tyrimų“.

Sistemos vaizdai, matomi reklaminiame vaizdo įraše (žr. straipsnio pabaigą), apima duomenų apsinuodijimo ir triukšmo įvedimo aptikimo ir (arba) modeliavimo procedūras, suteikiančias galimų užpuolikų veiksmų modeliuojant įdiegtas sistemas.

Padidinti.

Atrodo, kad sistema naudoja istorinius šalies ir užsienio veiksmų duomenis. Į tikslines klases įtrauktos „Protestai“ ir „Riaušės“, be ne tokių aiškių „Strateginių įvykių“. Panašu, kad nacionaliniai terorizmo incidentai taip pat įtraukti į sistemos informacines duomenų bazes, o „Smurtas prieš civilius – dar viena tikslinė klasė. Kitos galimos tikslinės klasės yra „Mūšiai“ ir „Sprogimai / nuotolinis smurtas“.

Padidinti.

Panašu, kad sistema leidžia apsaugoti konfigūracijos „BIAS valdymo“ skilties ypatybes, kurios, matyt, yra skirtos kovoti su pertekliumi arba išvengti nepageidaujamo nedidelių pašalinių įvykių, kurie gali būti svarbūs analizės rutinoje, pašalinimo. Vaizdo įraše VESPR apdoroja lentelinius istorinius duomenis apie „Ukrainą“.

Be šio pradinio reklaminio žaibo, mažai tikėtina (galbūt pagal dizainą), kad išgirsime daug daugiau apie šį vyriausybei skirtą SaaS produktą, kad ir kaip jis kainuotų; jis dalijasi savo pavadinimu su kavos baro franšize, socialinių pažinčių programėle ir srautiniu albumu, o VSEPR chemijos modelis jį nenumaldomai lenkia pagal reitingus.

CalypsoAI gavo 13 milijonų JAV dolerių A serijos lėšų rinkimas iš Paladin Capital Venture Group 0 m. liepos 2020 d. Kiti investuotojai įskaitant 8VC, „Lockheed Martin Ventures“, „Manta Ray Ventures“, „Frontline Ventures“, „Lightspeed Venture Partners“ ir „Pallas Ventures“.

Tinklaraščio įraše įmonės svetainėje CalypsoAI įkūrėjas Neilas Serebryany, kuris 2018 m. Gynybos departamente atliko neapibrėžtus tyrimus, teigia, kad įmonė buvo įkurta kaip galimas sprendimas vyriausybių baimei diegti pažangias algoritmines sistemas nereguliuojamame klimate. :

„Pagrindinė šios AI projektų baimės priežastis, dėl kurios jie buvo apleisti vyriausybėje, skamba proziškai, bet iš tikrųjų yra gana sudėtinga. Jų buvo atsisakyta dėl kokybės užtikrinimo trūkumo […] AI modeliai negali būti vertinami taip, kaip tradiciniai programinės įrangos modeliai. Taip yra dėl pagrindinio modelio struktūros pobūdžio ir labai sudėtingų būdų, kuriais jie gali sugesti. Neturėdamos mechanizmo, leidžiančio šias nedeterministines sistemas įvertinti deterministiniu ir audituojamu būdu, vyriausybės organizacijos negalėjo įvertinti vadinamosios AI modelių „kokybės“ pagal etaloną. Dėl to buvo baiminamasi, kad jie gali sugesti, veikti netinkamai arba juos gali nulaužti priešas tuo metu, kai jų labiausiai reikia, pavyzdžiui, mūšyje, skrendant ar atliekant sudėtingą medicininę procedūrą. “

Aljanso už atsakingą pilietybę Patariamosios tarybos

Likus mėnesiui iki investicijų, bendrovė sukūrė Nacionalinio saugumo patariamąją tarybą, įskaitant Tony DeMartino, buvęs gynybos sekretoriaus Jimo Mattiso padėjėjas, o dabar Vašingtone įsikūrusios strateginių konsultacijų įmonės „Pallas Advisors“ steigėjas; buvęs vyriausiasis gynybos sekretoriaus pavaduotojas žvalgybai (prezidento Trumpo laikais) Kari Bingen; buvęs CŽV skaitmeninių inovacijų direktoriaus pavaduotojas Šonas Rochas, buvęs šios organizacijos kibernetinės žvalgybos specialistas; ir Michaelas Molino, buvęs ASRC Federal įmonių plėtros vykdomasis viceprezidentas, teikiantis konsultacines, tyrimų ir technines perkėlimo galimybes įvairiose svarbiose federalinėse tarnybose.

Pagal leidimą:

„VESPR suteikia pažangias AI testavimo galimybes su supaprastinta darbo eiga, kad būtų užtikrinta, jog kiekvienas gamyboje įdiegtas mašininio mokymosi algoritmas būtų saugus. VESPR suteikia neprilygstamą saugumą ir užtikrinimą įvairioms AI sistemoms, nuo kompiuterinio matymo iki natūralios kalbos apdorojimo. VESPR procesas užtikrina testavimą, vertinimą, tikrinimą ir patvirtinimą (TEVV) per visą saugaus mašininio mokymosi gyvavimo ciklą (SMLC), nuo tyrimų ir plėtros etapo iki modelio diegimo. Galutinis rezultatas – dirbtinio intelekto sistemos, užtikrinančios tikslią ir visapusišką modelio galimybių, pažeidžiamumų ir našumo stebėjimą bei ataskaitas.

Atnaujinta 11:07 EST, siekiant atspindėti, kad Michaelas Molino nebedirba ASRC Federal – tai klaida pradiniame straipsnyje.

Atnaujinta 1 m. sausio 28 d., kad būtų pašalintas sugadintas „YouTube“ vaizdo įrašas.