Yhdysvaltain liittovaltion ja sotilas AI: Uusi alusta tarjoaa algoritmien validoinnin ja akkreditoinnin

Aloitusyritys, jonka hallituksen jäseninä on entisiä hallituksen ja sotilasviranomaisia, on julkaissut uuden alustan, jonka tarkoituksena on arvioida tekoälysovellusten turvallisuutta ja käyttökelpoisuutta. Järjestelmän varhaisiksi käyttäjiksi sanotaan Yhdysvaltain ilmavoima ja Kotimaan turvallisuusvirasto.

Alusta on nimeltään VESPR, CalypsoAI:n kehittämä, perustettu 2018, pääkonttorilla Piilaaksossa, Dublinissa ja virallisesti ‘paljastamaton’ sijainti Virginiassa – CIA:n maapohja Langleyn lähellä.

VESPR on malliriskienhallintajärjestelmä (MRM), jonka on suunniteltu helpottamaan liittovaltion vaatimusten mukaisen akkreditointijärjestelmän toteuttamista käyttöönotetuille algoritmeille. Se tarjoaa sekä käyttäjäystävällisen hallintapaneelityylisen graafisen käyttöliittymän että komentorivikäyttöliittymän edistyneempään käyttöön.

Click to enlarge.

VESPR perustuu CalypsoAI:n koneoppimisen validointi-, verifiointi- ja akkreditointistandardeihin, ja se sisältää käsin rakennetut vastustavan koneoppimisen kirjastot. Se tarjoaa myös automatisoituja stressitestirutiineja mahdollisille käyttökelpoisille algoritmeille.

Kansallinen tekoälyn tutkimusresurssien työryhmä

Julkaisun ajoitus saattaa liittyä eilen Bidenin hallinnon julkaisuun uudesta National Artificial Intelligence Research Resource Task Force -elimeen, jonka on tarkoitus toimia liittovaltion neuvonantajakomiteana kongressin National AI Initiative Act of 2020.

Pressure has been mounting on the USA, and around the world, for meaningful regulatory standards for machine learning systems, not least in mission-critical areas such as key infrastructure and military usage. Since ML systems are still enduring a formative stage and a rapid rate of progress, they represent a relatively unstable and frequently controversial recourse from which it’s now essential to identify replicable and reliable analytical algorithms – if this proves to be possible.

Painetta on kasvamassa Yhdysvalloissa ja maailmanlaajuisesti merkittävien sääntelystandardien puolesta koneoppimisjärjestelmille, erityisesti kriittisillä aloilla kuten keskeinen infrastruktuuri ja sotilaallinen käyttö. Koska ML-järjestelmät ovat edelleen kehittymässä ja niiden kehitysnopeus on suuri, ne ovat melko epävakaita ja usein kiistanalaisia, ja on nyt olennaista tunnistaa toistettavissa olevat ja luotettavat analyyttiset algoritmit – jos se on mahdollista.

Huhtikuussa CalypsoAI ilmoitti tukevansa Endless Frontiers Act -lainsäädäntöä, kongressin lakiesitystä, jonka tarkoituksena on uudistaa tieteellistä rahoitusta Kiinan kasvavan tekoälyvoiman valossa, vaikka laki myöhemmin karsittiin senaatin vaiheessa.

Validointi liittovaltion tekoälylle

VESPR:n lehdistötiedotteen mukaan kehyksen kattamia alueita ovat tietokonenäkö ja luonnollisen kielen käsittely (NLP).

CalypsoAI väittää, että VESPR luotiin ‘keskeisen panoksen saaneena olemassa olevilta kansallisen turvallisuuden asiakkailta ja syntyi vuosien itsenäisesti rahoitetun vastustavan koneoppimisen tutkimuksen tuloksena’.

Järjestelmän kuvat, jotka näkyvät promootiovideossa (katso artikkelin lopussa), näyttävät sisältävän havaitsemis- ja/tai simulointirutiineja datamyrkytykselle ja kohinasijoitukselle, tarjoten simulaatioita mahdollisten hyökkääjien toimista käyttöön otetuille järjestelmille.

Click to enlarge.

Järjestelmä näyttää hyödyntävän historiallisia kansallisia ja ulkomaisia toimia koskevia tietoja. Kohdeluokkiin kuuluvat ‘Mielenosoitukset’ ja ‘Mellakat’, sekä vähemmän selvä ‘Strategiset kehitykset’. Kansalliset terrorismitapaukset vaikuttavat myös sisältyvän järjestelmän viitetietokantoihin, ‘Väkivalta siviilejä vastaan’ on toinen saatavilla oleva kohdeluokka. Muita saatavilla olevia kohdeluokkia ovat ‘Taistelut’ ja ‘Räjähdykset/Etäväkivalta’.

Click to enlarge.

Järjestelmä näyttää mahdollistavan ominaisuuksien suojauksen ‘BIAS management’ -asetuksen osiossa, jonka on ilmeisesti tarkoitus torjua ylisovitusta tai estää ei-toivottua pienien poikkeavien tapahtumien poistamista, jotka voivat olla kiinnostavia analyyttisessä prosessissa. Videossa VESPR käsittelee taulukkomuotoisia historiallisia tietoja koskien ‘Ukrainaa’.

Tämän alkuperäisen promootiokampanjan jälkeen ei ole todennäköistä (ehkä suunnitelmallisesti), että kuulemme paljon lisää tästä hallitukselle suunnatusta SaaS-tuotteesta, riippumatta sen menestyksestä; se jakaa nimensä kahvilaketjun, sosiaalisen treffisovelluksen ja suoratoistovideon kanssa, ja se on jatkuvasti alijäämässä sijoituksissa VSEPR-kemiamallin takia.

CalypsoAI sai $13 miljoonaa Series A -rahoitusta Paladin Capital Venture Groupilta heinäkuussa 2020. Muita sijoittajia sisälsi 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners ja Pallas Ventures.

Yrityksen sivuston blogikirjoituksessa CalypsoAI:n perustaja Neil Serebryany, joka teki määrittelemättömiä tutkimustöitä puolustusministeriössä vuonna 2018, toteaa, että yritys perustettiin mahdolliseksi ratkaisuksi hallitusten pelolle edistyneiden algoritmisjärjestelmien käyttöönotosta säätelemättömässä ilmapiirissä:

‘Ensisijainen syy tähän tekoälyhankkeiden pelkoon, joka johtaa niiden hylkäämiseen hallituksen sisällä, kuulostaa proosalliselta, mutta on itse asiassa melko monimutkainen. Ne hylättiin puutteellisen laadunvarmistuksen vuoksi […] Tekoälymallien ei voida arvioida samalla tavalla kuin perinteisiä ohjelmistomalleja. Tämä johtuu mallirakenteen perustavasta luonteesta ja erittäin monimutkaisista tavoista, joilla ne voivat epäonnistua. Ilman mekanismia, jolla näitä epädeterministisiä järjestelmiä voitaisiin arvioida deterministisesti ja auditoitavalla tavalla, hallituksen organisaatiot eivät pystyneet arvioimaan niin sanottua tekoälymallien ‘laatua’ vertailuarvoa vastaan. Tämä johti pelkoon, että ne voisivat epäonnistua, toimia virheellisesti tai joutua vihollisen hakkereiden kohteeksi juuri silloin, kun niitä tarvitaan eniten, esimerkiksi taistelussa, lennossa tai monimutkaisessa lääketieteellisessä toimenpiteessä.’

Neuvonantajaryhmä

Kuukausi ennen sijoituskierrosta yritys perusti Kansallisen turvallisuuden neuvonantajataulun, johon kuului Tony DeMartino, entinen avustaja puolustusministeri Jim Mattisin toimistossa ja nykyinen perustajajäsen Washingtonissa sijaitsevalle strategiselle neuvontayritykselle Pallas Advisors; entinen pääasiallinen varapäällikkö puolustusministeriön tiedustelutoimiston alaisuudessa (presidentti Trumpin aikana) Kari Bingen; entinen apulaisdirektori CIA:n digitaalisen innovaation osastolla Sean Roche, entinen kyber- ja tiedusteluspesialisti kyseisessä organisaatiossa; ja Michael Molino, entinen varapuheenjohtaja yrityskehityksessä ASRC Federalissa, joka tarjoaa neuvontaa, tutkimusta ja teknisiä siirto-ominaisuuksia useissa kriittisissä liittovaltion palveluissa.

Julkaisun mukaan:

‘VESPR tarjoaa kehittyneitä tekoälyn testauskykyjä virtaviivaistetulla työnkululla varmistaakseen, että jokainen tuotantoon otettu koneoppimisalgoritmi on tarkistettu turvalliseksi. VESPR tarjoaa vertaansa vailla olevaa turvallisuutta ja varmuutta monenlaisille tekoälyjärjestelmille, tietokonenäöstä luonnollisen kielen käsittelyyn. VESPR-prosessi takaa testauksen, arvioinnin, varmennuksen ja validoinnin (TEVV) koko turvallisen koneoppimisen elinkaaren (SMLC) ajan, tutkimus- ja kehitysvaiheesta mallin käyttöönottoon. Lopputuloksena on tekoälyjärjestelmiä, jotka tarjoavat tarkkaa ja kattavaa seurantaa ja raportointia mallien kyvyistä, haavoittuvuuksista ja suorituskyvystä.’

Päivitetty 11:07 AM EST to reflect that Michael Molino no longer works at ASRC Federal, an errata in original article.

Päivitetty 11:07 AM EST vastaamaan, että Michael Molino ei enää työskentele ASRC Federalissa, alkuperäisen artikkelin korjaus.

Päivitetty 1January 28, 2024 to remove broken YouTube video.

Päivitetty 1January 28, 2024 poistamaan rikki mennyt YouTube‑video.