David Maher, CTO i Intertrust – Intervju-serie

David Maher er Intertrusts nestleder og teknologidirektør. Med over 30 års erfaring innen pålitelige distribuerte systemer, sikre systemer og risikostyring har Dave ledet FoU-innsats og hatt nøkkellederposisjoner i hele selskapets datterselskaper. Han var tidligere president i Seacert Corporation, et sertifiseringsselskap for digital media og IoT, og president i whiteCryption Corporation, en utvikler av systemer for programvareselvforsvar. Han har også vært medlem av styret i Marlin Trust Management Organization (MTMO), som overvåker verdens eneste uavhengige digitale rettighetsforvaltningssystem.

Intertrust har utviklet innovasjoner som muliggjør distribuerte operativsystemer å sikre og styre data og beregninger over åpne nettverk, noe som har resultert i en grunnleggende patent på pålitelig distribuert beregning.

Opprinnelig rotfestet i forskning, har Intertrust utviklet seg til et produktfokusert selskap som tilbyr pålitelige dataservices som samordner enhets- og dataoperasjoner, særlig for IoT og AI. Deres marked omfatter mediedistribusjon, enhetsidentitet/godkjenning, digital energistyring, analyse og skytall Sikkerhet.

Hvordan kan vi lukke AI-tillitsgapet og møte det økende bekymret for AI-sikkerhet og -pålitelighet?

Gjennomsiktighet er den viktigste kvaliteten som jeg tror vil hjelpe med å møte de økende bekymrene for AI. Gjennomsiktighet omfatter funksjoner som hjelper både forbrukere og teknologer å forstå hva AI-mekanismer er en del av systemene vi samhandler med, hva slags bakgrunn de har, hvordan en AI-modell er trent, hva slags sikkerhetstiltak finnes, hva slags politikk ble brukt i modellutviklingen og hva slags garantier finnes for en gitt mekanismes sikkerhet og sikkerhet. Med økt gjennomsiktighet vil vi kunne møte reelle risikoer og problemer og ikke bli distraherert så mye av irrasjonelle frykter og antagelser.

Hva er rollen til metadata-autentisering i å sikre tillitsverdigheten av AI-utdata?

Metadata-autentisering hjelper å øke vår tillit til at garantier om en AI-modell eller annen mekanisme er pålitelige. En AI-modellkort er et eksempel på en samling av metadata som kan hjelpe med å evaluere bruken av en AI-mekanisme (modell, agent osv.) for en bestemt formål. Vi må etablere standarder for klarhet og fullstendighet for modellkort med standarder for kvantitative målinger og autentiserte utsagn om ytelse, forvrengning, egenskaper ved treningdata osv.

Hvordan kan organisasjoner mildne risikoen for AI-forvrengning og hallusinasjoner i store språkmodeller (LLM)?

Red teaming er en generell tilnærming til å møte disse og andre risikoer under utviklingen og før lanseringen av modeller. Opprinnelig brukt til å evaluere sikre systemer, er tilnærmingen nå blitt standard for AI-baserte systemer. Det er en systemtilnærming til risikostyring som kan og bør inkludere hele livssyklusen til et system fra initial utvikling til feltutplassering, og dekker hele utviklingssupplykjeden. Spesielt kritisk er klassifisering og autentisering av treningdata brukt for en modell.

Hva kan selskaper gjøre for å skape gjennomsiktighet i AI-systemer og redusere risikoene forbundet med “black box”-problemet?

Forstå hvordan selskapet skal bruke modellen og hva slags ansvar de kan ha i utplasseringen, enten for intern bruk eller bruk av kunder, direkte eller indirekte. Deretter må man forstå hva jeg kaller “pedigreene” til AI-mekanismene som skal utplasseres, inkludert utsagn på en modellkort, resultater fra red team-prøver, differensialanalyse på selskapets spesifikke bruk, hva som er formelt evaluert og hva andre menneskers erfaringer er. Intern testing med en omfattende testplan i et realistisk miljø er absolutt nødvendig. Beste praksis utvikles i dette nye området, så det er viktig å holde seg oppdatert.

Hvordan kan AI-systemer være designet med etiske retningslinjer i mente, og hva er utfordringene i å oppnå dette på tvers av ulike bransjer?

Dette er et forskningsområde, og mange hevder at begrepet “etikk” og nåværende AI-versjoner er inkongruente siden etikk er konseptbasert, og AI-mekanismer er hovedsakelig data-drevne. For eksempel er enkle regler som mennesker forstår, som “ikke juke”, vanskelige å sikre. Imidlertid bør man vurdere omfattende interaksjoner og målkonflikter i målbasert læring, ekskludere tvilsomme data og desinformasjon, og bygge inn regler som krever bruk av utdatafilter som tvinger grenser og tester for brudd på etiske prinsipper som å fremme eller sympatisere med bruk av vold i utdatainnhold. Liknende, rigorøs testing for forvrengning kan hjelpe med å sammenligne en modell med etiske prinsipper. Igjen, mye av dette kan være konseptuelt, så man må være forsiktig med å teste effekten av en gitt tilnærming siden AI-mekanismen ikke “forstår” instruksjoner som mennesker gjør.

Hva er de viktigste risikoene og utfordringene som AI møter i fremtiden, særlig når det integreres mer med IoT-systemer?

Vi ønsker å bruke AI til å automatisere systemer som optimaliserer kritiske infrastrukturprosesser. For eksempel vet vi at vi kan optimalisere energidistribusjon og -bruk ved hjelp av virtuelle kraftverk, som koordinerer tusenvis av elementer for energiproduksjon, lagring og bruk. Dette er bare praktisk med massiv automatisering og bruk av AI til å hjelpe med minutt-avgjørelser. Systemer vil inkludere agenter med motstridende optimaliseringsmål (for eksempel for forbrukerens eller leverandørens beste). AI-sikkerhet og -sikkerhet vil være kritisk i den bredere utplasseringen av slike systemer.

Hva slags infrastruktur er nødvendig for å sikre identifisering og autentisering av enheter i AI-systemer?

Vi trenger en robust og effektiv infrastruktur hvor enheter som er involvert i å evaluere alle aspekter av AI-systemer og deres utplassering kan publisere autoritative og autentiske krav om AI-systemer, deres bakgrunn, tilgjengelige treningdata, proveniens av sensordata, sikkerhetsrelaterte hendelser og lignende. Denne infrastrukturen må også gjøre det effektivt å verifisere krav og utsagn fra brukere av systemer som inkluderer AI-mekanismer og fra elementer i automatiserte systemer som tar beslutninger basert på utdata fra AI-modeller og optimalisatorer.

Kunne du dele noen innsikter om hva du arbeider med i Intertrust og hvordan det faktorer inn i hva vi har diskutert?

Vi forsker og designer teknologi som kan tilby den type tillitsstyringsinfrastruktur som er nødvendig i den forrige spørsmålet. Vi arbeider spesifikt med å løse problemene med skala, latency, sikkerhet og interoperabilitet som oppstår i IoT-systemer som inkluderer AI-komponenter.

Hvordan sikrer Intertrusts PKI (Public Key Infrastructure) -tjeneste IoT-enheter, og hva gjør den skalerbar for store utplasseringer?

Vår PKI ble designet spesifikt for tillitsstyring for systemer som inkluderer styring av enheter og digitalt innhold. Vi har distribuert milliarder av kryptografiske nøkler og sertifikater som sikrer overholdelse. Vår nåværende forskning omfatter skalaen og garantier som massive industrielle automatisering og kritisk verdensomspennende infrastruktur krever, inkludert beste praksis for “zero-trust”-utplasseringer og enhets- og dataautentisering som kan håndtere trillioner av sensorer og hendelsegeneratore.

Hva motiverte deg til å bli med i NISTs AI-initiativer, og hvordan bidrar din involvering til å utvikle pålitelige og trygge AI-standards?

NIST har enorm erfaring og suksess i å utvikle standarder og beste praksis i sikre systemer. Som hovedutsteder for US AISIC fra Intertrust kan jeg fremme viktige standarder og beste praksis i å utvikle tillitsstyringssystemer som inkluderer AI-mekanismer. Fra tidligere erfaring setter jeg spesielt pris på tilnærmingen NIST tar for å fremme kreativitet, fremgang og industriell samarbeid mens de hjelper med å formulere og proklamere viktige tekniske standarder som fremmer interoperabilitet. Disse standardene kan fremme adopsjonen av nyttige teknologier mens de møter de typene risikoer som samfunnet møter.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke Intertrust.