Chester Leung, medgrunnlegger og leder for AI-plattformen i OPAQUE – Intervju-serie

Chester Leung er medgrunnlegger og leder for plattformarkitektur i OPAQUE, et Series A-startup som bygger en konfidensiell data- og AI-plattform som gjør det mulig for team å utvide sine bedriftsdata-pipelines med en konfidensiell lag, og som muliggjør raskere innsikt med mindre innsats og verifiserbar personvern og kontroll.

Tidligere var Chester en student i datavitenskap ved UC Berkeley, hvor han publiserte fagfellevurderte artikler på toppkonferanser og også tjenestegjorde som hovedvedlikeholder av det åpne kildekodsprosjektet MC2 for sikker samarbeidende analyse og maskinlæring.

DU grunnla Opaque etter tiden din ved UC Berkeley’s RISELab, hvor arbeidet ditt brodde over AI og sikre systemer. Hva var den spesifikke lukken i bedriftens data-infrastruktur som du så, og som ledet til opprettelsen av OPAQUE, og hvordan informerte din akademiske erfaring selskapets retning?

På den tiden var det en enorm fokus, både i akademia og i industrien, på å utnytte maskinlæring for bestemte bruksområder. I laboratoriet var vi ekstremt heldige å ha store bedriftssponsorer som hjalp oss forskere å forme vårt arbeid for å løse mer presserende problemer som de møtte i sine organisasjoner. Vår gruppe hadde en unik mulighet til å arbeide tett med teknologi- og bank-, finansiell tjeneste- og forsikringsvirksomhet (BFSI)-selskaper, og samarbeide for å løse harde personvernproblemer rundt bruk av følsom, men verdifull data for maskinlæring. Som alle områder av AI, avhenger maskinlæring av store mengder høykvalitetsdata for å produsere verdifulle og robuste innsikter.

Vi møtte på samme mønster gang på gang mens vi samarbeidet med team fra likeså Amazon (AMZN ), Scotiabank og Ant Group (da Ant Financial): deres maskinlærings-drevne prosjekter stoppet før de nådde produksjon på grunn av bekymringer rundt bruk av følsom, men kritisk data for disse bruksområdene. Med andre ord, disse teamene var ikke i stand til å bruke AI i prosjekter som de visste kunne generere verdi for selskapet, ikke på grunn av et teknisk problem med AI, men fordi de ikke kunne få tilgang til riktig data.

Hos Opaque har vi løst et identisk problem. Vi hjelper team å få tilgang til riktig data, og å låse opp eller oppgradere deres AI-egenskaper. Den eneste endringen siden våre forskningsdager har vært urgensen av problemet: vi ser nå konsekvent AI-tilpasning og -integrering, som fortsatt er en flaskehals på grunn av tilgang til riktig data, og som blir en selskapsomfattende strategisk imperativ.

I et landskap hvor bedrifter investerer tungt i resonneringsmodeller og agens AI, hvorfor tror du at sikre data-pipelines er viktigere enn noen gang?

Sikre data-pipelines er ryggraden som bedrifter bygger resonneringsmodeller og agens AI på. Alt fra opplæring av disse resonneringsmodellene til deployering av agens AI, involverer følsom data og avhenger av sikre data-pipelines.

For eksempel ser vi nå som en bransje en økende investering i å generere høykvalitetsdata for å trene disse modellene. Noen rapporter har til og med forutsagt at investeringen i å generere høykvalitetsdata snart vil være større enn investeringen i å trene modellene selv. Selvfølgelig er data-generering en flertrinnsprosess som er drevet av pipelines som produserer en bedrifts mest verdifulle IP: høykvalitets, domene-spesifik data som kan trene modeller som genererer enorm verdi nedstrøms. Investeringen i å generere denne dataen er enorm, og den genererte dataen, gitt sin avstamning, skiller en bedrift fra sine konkurrenter, og fungerer som dens vern. En bedrift må gjøre alt de kan for å holde denne pipeline sikker.

OPAQUEs konfidensiell dataplattform muliggjør analyse på kryptert data. Hva er de kjernetechniske utfordringene i å gjøre dette både skalerbart og utvikler-vennlig for bedriftsmiljøer?

Vår konfidensiell AI-plattform muliggjør ikke bare analyse, maskinlæring og generativ AI på kryptert data, men gir også verifiserbar bevis for at din data ble brukt på måter som bare du forventer og tillater.

De kjernetechniske utfordringene ligger i å gjøre orkestreringen av arbeidsbelastningen sikker og verifiserbar i skala. Spesielt bruker mange bedrifter i dag managed cloud-tjenester når de må skaleres. Dette kan være både kostnadseffektivt og praktisk. Men utfordringen blir, hvordan kan en organisasjon sikre og verifisere programvare som ikke er under deres kontroll? Hvis organisasjonen tar tilbake kontrollen over all programvaren, hva må de gi fra seg ved ikke å bruke en managed tjeneste, og hva mister de ved å gjøre det?

Du har sagt at sikkerhet ved design kan gi en varig konkurransefordel. Kan du utdype hvordan dette prinsippet spiller ut praktisk for bedriftens AI-team?

Det er to vinkler å se på dette fra: en produktvinkel og en ingeniørvinkel.

Fra en produktvinkel forstår alle at deres data er radioaktiv, deres vern eller begge deler. Bedrifter blir stadig mer modne i sin vurdering av løsningers data-privatliv, sikkerhet og suverenitet. Derfor må ethvert team som bygger ethvert produkt som behandler bedriftsdata gi garantier for at den behandlede dataen bare er synlig for og brukes av autoriserte parter og enheter. En sikkerhet ved design gir tillit til at data-privatliv, sikkerhet og suverenitet var første-klasses overveielser i designet av produktet, og muliggjør at produktet uttrykkelig kan gi disse garantiene.

Fra en ingeniørvinkel er en sikkerhet ved design mer utvidbar og fremtidsrettet. Juridiske, risiko- og compliance-team blir stadig strengere i respons til nye risikoer og reguleringer. Derfor bør ingeniørorganisasjoner bygge en sikker bedrifts AI-system fra starten av, så de ikke må omgjøre og/eller luke opp systemet når de innser at deres eksisterende system er utilstrekkelig sikret og risikofritt. Å måtte omgjøre og luke opp koster måneder, hvis ikke år, av verdifullt ingeniør-båndbredde.

Etterhvert som autonome AI-systemer utvikler seg, hvordan bør organisasjoner omvurdere rollen til data – utover en ressurs – som en forsvarbar vern?

Det er en voksende enighet i industrien at data snart kan være den eneste vernen en organisasjon har. Vi har sett forskning og ingeniør-talent, og de briljante teknologiene og produktene de bygger, hoppe fra organisasjon til organisasjon. Som resultat kan mange organisasjoner tilby samme produkter, bakket opp av samme teknologier.

Hva som ikke lett kan overføres fra organisasjon til organisasjon, er en organisasjons data – med mindre den er lekket. Dessuten er det nettopp denne dataen som kan gjøre et produkt mer tiltalende enn konkurrentene – mer personlig, tilpasset og domene-spesifikt. Organisasjoner må gjøre alt de kan for å sikre sin data, og muliggjøre at de kan utnytte sin data som den konkurransefordelen.

Hva ser en resilient AI-pipeline ut som i praksis, og hvordan hjelper den bedrifter med å unngå skjulte kostnader eller risikoer når de skalerer sine AI-utplasseringer?

En resilient AI-pipeline er en som er pålitelig, feiltolerant, men mest viktig, verifiserbar sikker fra ende til ende. Før behandling bør selskaper verifisere både data som går inn i pipeline, samt pipeline selv, for å sikre at det ikke er noen mulighet for at pipeline misbruker data. Under behandling bør AI-pipeline være tamper-bevis, for å sikre at ingen kan stjele noen data som det behandler eller skjeve innsiktene det gir. Etter behandling bør AI-pipeline være verifiserbar auditerbar, så en team kan observere og forklare beslutningsprosessen og banen til AI-pipeline, og så en team kan se hva gikk galt når noe går galt.

Det er avgjørende å vurdere hvordan en usikker, feilaktig AI-pipeline kan lekke en organisasjons data eller proprietær modell, og implikasjonene det har på et selskaps differensierende faktorer eller omdømme. Hva som er enda viktigere, er dette: når bedrifter skalerer sine AI-utplasseringer til mer kritiske og innvirkende bruksområder, øker risikoen for en usikker, uforklarlig AI-pipeline eksponentielt. I en verden hvor lån og ansettelsesbeslutninger allerede er AI-forbedret, og som påvirker alt fra personlige finansielle forhold til karriere, kan en bevisst eller ubevisst feil i en AI-pipeline ha en dramatisk effekt på livet til en person.

Mange bedrifter fokuserer på modell-nøyaktighet eller forsinkelse. Hva overseer de når det gjelder data-integritet og langsiktig operasjonell risiko?

Mens mange bedrifter fokuserer på modellen eller AI-teknologien, har jeg lenge trodd at data er den grunnleggende flaskehalsen for å rulle ut verdi-genererende AI.

Å ha en modell som raskt genererer en nøyaktig respons om et tema som sluttkunden ikke bryr seg om, genererer null verdi. For å bygge et unikt tiltalende produkt, må bedrifter sikre at deres modeller, og produktene de driver, er trenet med høykvalitets, relevante data. Data-hygiene-problemer som resulterer fra manglende høykvalitets inndata, kan kanskje ikke dukke opp før måneder senere.

For det andre har vi funnet at bedrifter generelt ikke har en god historie for å oppdage data-drift, forurensning eller lekkasje, og som setter spørsmål ved modell-integriteten. Dette er tett knyttet til min første poeng, og mens det er en reaktiv løsning, gjør det evaluering og observasjon enda viktigere.

OPAQUE integrerer i eksisterende skytårn. Hva har du lært om å balansere lett adopsjon med sterke sikkerhetsgarantier i bedrifts-utplasseringer?

Vi har brukt nesten et tiår, fra våre forskningsdager, på å løse dette problemet. Den beviselige sikkerheten til AI-systemer, spesielt i en bedriftssetting, er et svært vanskelig problem. Det krever systemer, sikkerhet, kryptografi og AI-ekspertise. Som resultat har de fleste systemer vi har sett, ikke vært grunnleggende sikre – fordi sikkerhet er så vanskelig å implementere.

Hos Opaque har vi bygget et produkt som er det beste av begge verdener – grunnleggende og verifiserbar sikker fra bunnen av, men lett deploybart gjennom sky-markedssteder og tilstrekkelig fleksibelt til å integrere i nye og eksisterende AI-applikasjoner.

Hvilke typer trusler eller sårbarheter oppstår rundt AI-pipelines og data-delingsområder som bedriftsledere kanskje ikke ennå fullt ut verdsetter?

Det vi har sett i denne agens-gull-rusjen er en blindt urgent behov for å deployere AI-agenter som samhandler med ulike systemer for registrering. Mens disse agentene kan gi verdi, stiller de også enorme risikoer fordi de berører så mange systemer med verdifull data. Agenter er innebygget ikke-deterministiske, og vi har sett talløse eksempler hvor de går ut og gjør noe vi ikke forventer. I en verden hvor din data er din eneste vern, bør bedriftsledere alltid spørre om de kan stole på og stole på AI-agenter som har tilgang til all deres data, og som ikke misbruker den.

Etterhvert som AI-reguleringer tar form globalt, hvordan ser du på samspillet mellom sikker data-infrastruktur, modell-ansvar og compliance i de neste årene?

Verifiserbar sikker data-infrastruktur muliggjør modell- og agent-ansvar. Spesielt uten verifiserbar bevis for en agents eller modells beslutningsprosess eller verktøy-bruk, kan vi ikke være sikre på noe, så vi kan ikke spore ansvar. Etterhvert som AI blir mer og mer integrert i våre daglige liv, vil vi ønske mer forklarbarhet og observasjon inn i AI. Men når AI kan operere med maskin-hastighet, og vi kan ikke, kan en ondsinnet AI lett lure oss ved å konstruere feil historier. Vi trenger verifiserbarhet for å holde AI ansvarlig.

Til meg er regulatorisk compliance meget reaktiv. Utviklingen og vedtaket av reguleringer beveger seg mye langsommere enn teknologisk innovasjon. Dette vil være stadig mer sant ettersom AI hjelper oss å øke vår innovasjons-hastighet. Mens compliance til slutt vil drive etterfølgere til å adoptere sikker data-infrastruktur, vil tidlige adoptører og tidlige majoriteter innse at det er kritisk for AI-sikkerhet, og vil adoptere det lenge før compliance gjør det obligatorisk. De forstår at agent-ansvar, muliggjort av sikker data-infrastruktur, er kritisk for å adoptere sine egne AI-drevne produkter.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke OPAQUE.