US Federal and Military AI: New Platform Offers Algorithm Validation and Accreditation

A startup, jolla on hallituksessa entisiä hallituksen sotilasjohtajia, on julkaissut uuden alustan, joka on suunniteltu arvioimaan tekoälysovellusten turvallisuutta ja käyttöönotettavuutta. Järjestelmän varhaiset käyttäjät ovat Yhdysvaltain ilmavoimat ja kotimaan turvallisuusministeriö.

Alusta on nimeltään VESPR, CalypsoAI:sta, joka perustettiin vuonna 2018, ja jonka pääkonttori sijaitsee Silicon Valleyssa, Dublinissa ja “salaisessa” sijainnissa Virginiassa – CIA:n pääkonttorin lähellä Langleyssa.

VESPR on mallin riskienhallintajärjestelmä, joka on suunniteltu helpottamaan valtionmukaisen akkreditointijärjestelmän toteuttamista käytössä oleville algoritmeille. Se tarjoaa sekä helppokäyttöisen työpöytätyyppisen GUI-ympäristön että CLI-liittymän edistyneemmäksi käytöksi.

Click to enlarge. Source: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR perustuu CalypsoAI:n tekoälyvalidointi-, verifiointi- ja akkreditointistandardeihin, ja siinä on käsin tehtyjä vihamielisiä tekoälykirjastoja. Se tarjoaa myös automaattisia stressitestirutiineja potentiaalisille käyttöönotettaville algoritmeille.

National Artificial Intelligence Research Resource Task Force

Julkaisun ajoitus saattaa liittyä eiliseen Bidenin hallituksen lanseeraamaan uuteen National Artificial Intelligence Research Resource Task Forceen, joka on liittovaltion neuvonantaja, jonka kongressi on perustanut National AI Initiative Act of 2020.

Paineita on kasvanut Yhdysvalloissa ja ympäri maailmaa merkityksellisille sääntelynormeille tekoälyjärjestelmiin, etenkin tehtäväkriittisillä aloilla, kuten avaininfrastruktuurissa ja sotilaskäytössä. Koska tekoälyjärjestelmät ovat edelleen kehittymisen vaiheessa ja nopean edistyksen tilassa, ne edustavat suhteellisen epävakautta ja usein kiistanalaista ratkaisua, josta on nyt tärkeää tunnistaa toistettavat ja luotettavat analytiikkamallit – jos tämä osoittautuu mahdolliseksi.

Helmikuussa CalypsoAI ilmoitti tukensa Endless Frontiers Act:lle, kongressin esitykselle, joka on tarkoitettu uudistamaan tieteen rahoitusta Kiinan kasvavan merkityksen vuoksi tekoälyvallassa, vaikka laki lopulta heikennettiin senaatin vaiheessa.

Validation For Federal AI

VESPR:n lehdistötiedotteen mukaan alustan kattamat alueet ovat tietokoneen näkö- ja luonnollisen kielen prosessointi (NLP).

CalypsoAI väittää, että VESPR luotiin “kriittisten kansallisen turvallisuuden asiakkaiden ja itsenäisesti rahoitetun tutkimuksen tuloksena vihamielisestä tekoälystä”.

Kuvat järjestelmästä näkyvät mainosvideossa (katso artikkelin loppu) näyttävät sisältävän havaitsemis- ja/tai simulaatioreitit datan myrkyttämiseksi ja melun sisäänrukkaukseksi, ja ne tarjoavat simulaatioita mahdollisten hyökkääjien toimille käyttöönotetuille järjestelmille.

Click to enlarge.

Järjestelmä näyttää hyödyntävän historiallista dataa sekä kansallisista että ulkomaisista toimista. Kohde-luokat, joita järjestelmä sisältää, ovat “Mielenosoitukset” ja “Melut”, sekä vähemmän selkeät “Strategiset kehityssuunnat”. Kansalliset terrori-iskut näyttävät olevan myös järjestelmän viite-tietokannoissa, ja “Väkivalta siviilejä kohtaan” on toinen saatavilla oleva kohde-luokka. Muita saatavilla olevia kohde-luokkia ovat “Taistelut” ja “Räjähdys-/etäväkivalta”.

Click to enlarge.

Järjestelmä näyttää sallivan piirteiden suojelun “BIAS-hallinnan” osiossa, joka on ilmeisesti suunniteltu ylittämisen estämiseksi tai ei-toivottujen poikkeustapausten poistamiseksi, jotka voivat olla kiinnostavia analyysirutiinissa. Videossa VESPR prosessoi tabulaarista historiallista tietoa “Ukrainasta”.

Tämän alkuperäisen mainosrynnäkön jälkeen ei todennäköisesti (ehkä suunnitellusti) kuulla paljonkaan enempää tästä hallituksen suuntaan tähtäävän SaaS-tuotteen kehityksestä; se jakaa nimensä kahvilaketjun, sosiaalisen deittailu-sovelluksen ja striimausalbumin kanssa, ja se häviää jatkuvasti sijoitettujen tuloksien VSEPR-kemiamallille.

CalypsoAI sai 13 miljoonaa dollaria Series A -rahoituksesta Paladin Capital Venture Groupilta heinäkuussa 2020. Muita sijoittajia olivat 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners ja Pallas Ventures.

CalypsoAI:n perustajan Neil Serebryany:n blogikirjoituksessa yhtiön sivustolla, jossa hän teki epämääräistä tutkimustyötä puolustusministeriössä vuonna 2018, yhtiö perustettiin mahdolliseksi ratkaisuksi hallituksen pelolle tekoälyjärjestelmien käyttöönotosta sääntelemättömässä ilmapiirissä:

‘Pääsyy tälle pelolle tekoälyprojekteja kohtaan, jotka johtavat niiden hylkäämiseen hallituksessa, kuulostaa arkiselta, mutta on itse asiassa melko monimutkainen. Ne hylättiin laadunvarmistuksen puutteen vuoksi […] Tekoälymallit eivät voida arvioida samalla tavalla kuin perinteiset ohjelmistomallit. Tämä johtuu mallirakenteen luonteesta ja siitä, miten ne voivat epäonnistua monimutkaisella tavalla. Ilman mekanismia arvioida näitä epädeterministisiä järjestelmiä deterministisellä, auditoitavalla tavalla, hallituksen sisäiset organisaatiot eivät voineet arvioida tekoälymallien “laatua” vertailukohtana. Tämä johti pelkoon, että ne voivat epäonnistua, voivat toimia väärin tai voivat joutua vihamielisen hyökkäyksen kohteeksi silloin, kun niitä tarvitaan eniten esimerkiksi taistelussa, lentokoneessa tai monimutkaisessa lääkinnällisessä toimenpiteessä. ‘

Neuvonantaja

Kuukausi ennen rahoituskierrosta yhtiö perusti Kansallisen turvallisuuden neuvonantajaryhmän, johon kuuluvat Tony DeMartino, entinen avustaja puolustusministeri Jim Mattikselle, ja nyt perustajakumppani Washingtonissa sijaitsevassa strategisessa neuvonantajayrityksessä Pallas Advisors; entinen apulaispuolustusministeri tiedustelussa (Presidentti Trumpin hallinnon aikana) Kari Bingen; entinen CIA:n digitaalisen innovaation apulaisjohtaja Sean Roche, joka on aikaisemmin toiminut kyber-intelligence-asiantuntijana; ja Michael Molino, entinen ASRC Federalin korkein johtaja, joka tarjoaa neuvontapalveluita, tutkimusta ja teknistä siirtymistä useille kriittisille liittovaltion palveluille.

Julkaisun mukaan:

‘VESPR tarjoaa edistyneitä tekoälytestausominaisuuksia suoraviivaisella työnkululla, jotta voidaan varmistaa, että jokainen tekoälyalgoritmi, joka otetaan tuotantoon, on varmistettu turvalliseksi. VESPR tarjoaa poikkeuksellisen turvallisuuden ja varmuuden monille tekoälyjärjestelmille, tietokoneen näöstä luonnolliseen kielen prosessointiin. VESPR-prosessi varmistaa testaamisen, arvioinnin, verifioinnin ja validoinnin (TEVV) turvallisen tekoäly-elinkaaren (SMLC) aikana, tutkimuksesta ja kehityksestä mallin käyttöönottoon. Lopputuloksena on tekoälyjärjestelmät, jotka tarjoavat tarkan ja kattavan seurannan ja raportoinnin mallin kyvyistä, haavoittuvuuksista ja suorituskyvystä.’

Päivitetty 11:07 EST, jotta voidaan heijastaa, että Michael Molino ei enää työskentele ASRC Federalissa, alkuperäisessä artikkelissa ollut virhe.

Päivitetty 1. tammikuuta 2024 poistamaan rikkinäinen YouTube-video.