Americká federálna a vojenská AI: Nová platforma ponúka overenie a akreditáciu algoritmov

Startup, ktorý obsahuje poradnú radu bývalých vládnych vojenských osobností, vydal novú platformu určenú na hodnotenie bezpečnosti a nasaditeľnosti aplikácií AI. Medzi prvých používateľov systému údajne patrí americké letectvo a ministerstvo vnútornej bezpečnosti.

Platforma sa nazýva VESPR od CalypsoAI, ktorá bola založená v roku 2018, so sídlom v Silicon Valley v Dubline a oficiálne „neuverejneným“ miestom vo Virgínii – terra firma pre CIA v Langley.

VESPR je modelový systém riadenia rizík (MRM) navrhnutý tak, aby uľahčil federálne vyhovujúci systém akreditácie pre nasadené algoritmy. Ponúka užívateľsky prívetivé prostredie GUI v štýle dashboardu a rozhranie CLI pre pokročilejšie používanie.

Kliknutím zväčšíte. Zdroj: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR je založený na overovacích, overovacích a akreditačných štandardoch strojového učenia CalypsoAI a obsahuje ručne vytvorené knižnice strojového učenia protivníkov. Ponúka tiež automatizované rutiny záťažového testovania pre potenciálne nasaditeľné algoritmy.

Národná pracovná skupina pre výskum umelej inteligencie

Načasovanie vydania sa môže týkať toho včerajšieho začať Bidenovou administratívou novej Národnej pracovnej skupiny pre výskum zdrojov umelej inteligencie, orgánu, ktorý má slúžiť ako federálny poradný výbor podľa Kongresu Zákon o národnej iniciatíve AI z roku 2020.

Na USA a na celom svete sa zvyšuje tlak na zmysluplné regulačné normy pre systémy strojového učenia, a to nielen v kritických oblastiach, ako je kľúčová infraštruktúra a vojenské využitie. Keďže systémy ML sú stále vo fáze formovania a rýchleho pokroku, predstavujú relatívne nestabilný a často kontroverzný prostriedok, z ktorého je teraz nevyhnutné identifikovať replikovateľné a spoľahlivé analytické algoritmy – ak sa to ukáže ako možné.

V apríli CalypsoAI zverejnilo svoju podporu Zákon o nekonečných hraniciach, návrh zákona Kongresu určený na reformu financovania vedy vzhľadom na rastúcu eminenciu Číny ako veľmoci AI, hoci tento zákon bol nakoniec zriedil v senátnom štádiu.

Overenie pre federálnu AI

Podľa tlačovej správy VESPR medzi oblasti pokryté rámcom patrí počítačové videnie a spracovanie prirodzeného jazyka (NLP).

CalypsoAI tvrdí, že VESPR bol vytvorený „s kritickým vstupom od existujúcich zákazníkov národnej bezpečnosti a zrodil sa z rokov nezávisle financovaného výskumu v oblasti strojového učenia protivníkov“.

Zdá sa, že obrázky systému videné v propagačnom videu (pozri koniec článku) obsahujú detekčné a/alebo simulačné rutiny otravy dát a vstrekovania šumu, ktoré poskytujú simulácie akcií potenciálnych útočníkov na nasadených systémoch.

Kliknutím zväčšíte.

Zdá sa, že systém využíva historické údaje o národných, ako aj zahraničných akciách. Uvedené cieľové triedy zahŕňajú „Protesty“ a „Nepokoje“, okrem menej jasného „Strategického vývoja“. Zdá sa, že do referenčných databáz systému sú zahrnuté aj národné teroristické incidenty, pričom ďalšou dostupnou cieľovou triedou je „násilie voči civilistom“. Ďalšie dostupné cieľové triedy zahŕňajú „Bitky“ a „Výbuchy/Vzdialené násilie“.

Kliknutím zväčšíte.

Zdá sa, že systém umožňuje ochranu funkcií v časti konfigurácie „riadenie BIAS“, ktorá je zjavne navrhnutá na boj proti nadmernej montáži alebo na zabránenie nechcenej eliminácii menších odľahlých udalostí, ktoré môžu byť zaujímavé v analytickej rutine. Vo videu VESPR spracováva tabuľkové historické údaje o „Ukrajine“.

Okrem tohto počiatočného propagačného blesku nie je pravdepodobné (možno zámerne), že sa o tomto produkte SaaS, ktorý čelí vláde, dozvieme oveľa viac, akokoľvek to dopadne; zdieľa svoje meno s franšízou kaviarní, aplikáciou na sociálne zoznamovanie a streamovacím albumom a je neúprosne porazená v hodnotených výsledkoch chemickým modelom VSEPR.

CalypsoAI prijal $ 13 miliónov v sérii A fundraising od Paladin Capital Venture Group v júli 0f 2020. Iní investori zahrnutá 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners a Pallas Ventures.

V blogovom príspevku na stránke spoločnosti zakladateľ CalypsoAI Neil Serebryany, ktorý v roku 2018 vykonal nešpecifikovanú výskumnú prácu na ministerstve obrany, uvádza, že spoločnosť bola založená ako možné riešenie strachu vlád z nasadenia pokročilých algoritmických systémov v neregulovanom prostredí. :

„Hlavný dôvod tohto strachu z projektov AI, ktorý vedie k ich opusteniu vo vláde, znie prozaicky, ale v skutočnosti je dosť zložitý. Boli opustené pre nedostatok zabezpečenia kvality […] Modely umelej inteligencie nemožno hodnotiť rovnako ako tradičné softvérové ​​modely. Je to spôsobené základnou povahou modelovej štruktúry a veľmi zložitými spôsobmi, ktorými môžu zlyhať. Organizácie vo vláde, ktoré nemali mechanizmus na hodnotenie týchto nedeterministických systémov deterministickým a kontrolovateľným spôsobom, neboli schopné posúdiť takzvanú „kvalitu“ modelov umelej inteligencie oproti referenčnej hodnote. To viedlo k obavám, že by mohli zlyhať, mohli by zlyhať alebo by ich mohol hacknúť protivník v čase, keď sú najviac potrebné, napríklad v boji, počas letu alebo počas zložitého lekárskeho zákroku. '

Poradný zbor

Mesiac pred investičným kolom spoločnosť vytvorila poradnú radu pre národnú bezpečnosť vrátane Tony DeMartino, bývalý poradca ministra obrany Jima Mattisa a teraz zakladajúci partner strategickej poradenskej firmy Pallas Advisors so sídlom vo Washingtone; bývalý hlavný zástupca námestníka ministra obrany pre spravodajské služby (za prezidenta Trumpa) Kari Bingen; bývalý zástupca riaditeľa pre digitálne inovácie CIA Sean Roche, bývalý špecialista na kybernetickú inteligenciu v tejto organizácii; a Michael Molino, bývalý výkonný viceprezident pre rozvoj spoločnosti v spoločnosti ASRC Federal, ktorá poskytuje poradenské, výskumné a technické možnosti migrácie v rámci celého radu dôležitých federálnych služieb.

Podľa vydania:

„VESPR poskytuje pokročilé možnosti testovania AI so zjednodušeným pracovným postupom, aby sa zaistilo, že každý algoritmus strojového učenia zavedený do výroby bol overený bezpečným spôsobom. VESPR poskytuje bezkonkurenčnú bezpečnosť a istotu rôznym systémom AI, od počítačového videnia až po spracovanie prirodzeného jazyka. Proces VESPR zabezpečuje testovanie, hodnotenie, overovanie a validáciu (TEVV) počas celého životného cyklu bezpečného strojového učenia (SMLC), od fázy výskumu a vývoja až po nasadenie modelu. Konečným výsledkom sú systémy AI, ktoré poskytujú presné a komplexné monitorovanie a podávanie správ o modelových schopnostiach, zraniteľnostiach a výkone.“

Aktualizované o 11:07 EST, aby odrážalo, že Michael Molino už nepracuje v ASRC Federal, chyba v pôvodnom článku.

Aktualizované 1. januára 28 na odstránenie nefunkčného videa YouTube.