Chester Leung, medgrundare och chef för AI-plattformen på OPAQUE – Intervju-serie

Chester Leung är medgrundare och chef för plattformsarkitektur på OPAQUE, ett företag i serie A som bygger den konfidentiella data- och AI-plattformen som möjliggör för team att utöka sina företagsdata pipelines med en konfidentiell lager, vilket möjliggör snabbare insikter med mindre ansträngning och verifierbar sekretess och kontroll.

Tidigare var Chester en datavetenskapsstudent på UC Berkeley, där han publicerade peer-reviewed artiklar på toppkonferenser och också fungerade som en ledande underhållare av det öppna källkodsprojektet MC2 för säker samarbetsanalys och maskinlärning.

Du grundade Opaque efter din tid på UC Berkeley’s RISELab, där ditt arbete brottades AI och säkra system. Vilken specifik lucka i företagsdatainfrastruktur såg du som ledde till skapandet av OPAQUE, och hur informerade din akademiska erfarenhet företagets riktning?

På den tiden fanns det ett enormt fokus, både i akademin och i industrin, på att utnyttja maskinlärning för specifika användningsfall. I laboratoriet var vi extremt lyckosamma att ha stora företagssponsorer som hjälpte oss forskare att forma vårt arbete för att lösa mer pressande problem som de stod inför inom sina organisationer. Vår grupp hade i synnerhet en unik möjlighet att arbeta nära med tech- och bank-, finansiella tjänster- och försäkringsföretag (BFSI), samarbeta för att lösa hårda sekretessproblem kring användningen av känslig men värdefull data för maskinlärning. Liksom alla områden av AI, maskinlärning, bygger på stora mängder högkvalitativ data för att producera värdefulla och robusta insikter.

Vi stötte på samma mönster om och om igen medan vi samarbetade med team från företag som Amazon (AMZN ), Scotiabank och Ant Group (då Ant Financial): deras maskinlärningsbaserade projekt avstannade innan de nådde produktion på grund av problem kring användningen av känslig men kritisk data för dessa användningsfall. Med andra ord, dessa team kunde inte använda AI i projekt som de visste kunde generera värde för företaget, inte på grund av ett tekniskt problem med AI, utan för att de inte kunde få tillgång till rätt data.

På Opaque har vi löst ett identiskt problem. Vi hjälper team att få tillgång till rätt data, vilket möjliggör för dem att låsa upp eller sälja sina AI-kapaciteter. Den enda förändringen sedan våra forskningsdagar har varit brådskan med problemet: vi ser nu konsekvent AI-antagande och integration, som fortfarande är en flaskhals på grund av tillgång till rätt data, bli ett företagsomfattande strategiskt imperativ.

I ett landskap där företag investerar kraftigt i resonemangsmodeller och agenter för AI, varför tror du att säkra data pipelines är viktigare än någonsin?

Säkra data pipelines är ryggraden som företag bygger resonemangsmodeller och agenter för AI på. Allt från utbildning av dessa resonemangsmodeller till distribution av agenter för AI involverar känslig data och bygger på säkra data pipelines.

Till exempel ser vi nu som en bransch en ökning av investeringar i att generera högkvalitativ data för att utbilda dessa modeller. Vissa rapporter har till och med förutspått att investeringen i att generera högkvalitativ data snart kommer att vara större än investeringen i att utbilda modellerna själva. Naturligtvis är data generation en multi-stegsprocess som drivs av pipelines som producerar ett företags mest värdefulla IP: högkvalitativ, domänspecifik data som kan utbilda modeller som genererar enormt värde nedströms. Investeringen i att generera denna data är enorm, och den genererade datan, givet dess ursprung, skiljer sig från ett företag till ett annat, fungerar som dess vallgrav. Ett företag måste göra allt för att hålla denna pipeline säker.

OPAQUES konfidentiella dataplattform möjliggör analys på krypterad data. Vilka är de centrala tekniska utmaningarna i att göra detta både skalbart och utvecklarvänligt för företagsmiljöer?

Vår konfidentiella AI-plattform möjliggör inte bara analys, maskinlärning och generativ AI på krypterad data, utan tillhandahåller också verifierbar bevis på att din data användes på sätt som endast du förväntar dig och tillåter.

De centrala utmaningarna, med skalbarhet, utveckling och hantering, ligger i att göra orkestreringen av arbetsbelastningen säker och verifierbar i skala. I synnerhet använder många företag idag hanterade molntjänster när de behöver skala. Detta kan vara både kostnadseffektivt och bekvämt. Men utmaningen blir, hur kan en organisation säkra och verifiera programvara som inte är under dess kontroll? Om organisationen tar tillbaka kontrollen över all programvara, vad måste de ge upp genom att inte använda en hanterad tjänst, och vad förlorar de genom att göra så?

Du har sagt att säkerhetsdesign kan ge en varaktig konkurrensfördel. Kan du förklara hur denna princip fungerar i praktiken för företags AI-team?

Det finns två vinklar att se på detta från: en produktsynvinkel och en ingenjörssynvinkel.

Från en produktsynvinkel förstår alla att deras data är radioaktiv, deras vallgrav eller båda. Företag blir alltmer mogna i sin utvärdering av lösningars data sekretess, säkerhet och suveränitet. Följaktligen måste varje team som bygger en produkt som bearbetar företagsdata tillhandahålla garantier för att den bearbetade datan endast är synlig för och används av auktoriserade parter och enheter. En säkerhetsdesign ger förtroende för att data sekretess, säkerhet och suveränitet var första klassens överväganden i designen av produkten, och möjliggör produkten att uttryckligen tillhandahålla dessa garantier.

Från en ingenjörssynvinkel är en säkerhetsdesign mer utbyggnadsbar och framtidsbevis. Juridiska, risk- och efterlevnadsgrupper blir alltmer stränga som svar på nya risker och regleringar. Därför bör ingenjörsorganisationer vilja bygga ett säkert företags AI-system från början så att de inte behöver omkonstruera och/eller laga sin system när de inser att deras befintliga system är otillräckligt säkert och riskfritt. Att omkonstruera och laga kostar månader, om inte år, av värdefull ingenjörsbandbredd.

Som autonoma AI-system utvecklas, hur bör organisationer omvärdera rollen för data – utöver en resurs – som en försvarbar vallgrav?

Det finns en växande konsensus i branschen att data snart kan vara den enda vallgraven en organisation har. Vi har sett forskning och ingenjörstalent, och de briljanta teknologierna och produkterna som de bygger, hoppa från organisation till organisation. Som ett resultat kan många organisationer erbjuda samma produkter, backade av samma teknologier.

Vad som inte kan överföras lätt från organisation till organisation är en organisations data – såvida den inte läcks. Dessutom är det just denna data som kan göra en produkt mer tilltalande än dess konkurrenter – mer personlig, anpassad och domänspecifik. Organisationer måste göra allt för att säkra sin data, vilket möjliggör för dem att utnyttja sin data som den konkurrensfördel.

Vad ser en resilient AI-pipeline ut som i praktiken, och hur hjälper den företag att undvika dolda kostnader eller risker när de skalar sina AI-distributioner?

En resilient AI-pipeline är en som är tillförlitlig, fel tolererande, men framför allt, verifierbart säker från slut till slut. Innan bearbetning bör företag verifiera både den data som går in i pipelinen och pipelinen själv, för att säkerställa att det inte finns någon möjlighet för pipelinen att missbruka datan. Under bearbetning bör AI-pipelinen vara oföränderlig, för att säkerställa att ingen kan stjäla någon data som den bearbetar eller snedvrida de insikter den tillhandahåller. Efter bearbetning bör AI-pipelinen vara verifierbart granskbar, så att ett team kan observera och förklara beslutsfattandet och banan för AI-pipelinen, och så att ett team kan se vad som gick fel när något går fel.

Det är av yttersta vikt att överväga hur en osäker, defekt AI-pipeline kan läcka ett företags data eller proprietär modell, och de konsekvenser det har på ett företags differentierande faktorer eller rykte. Vad som är viktigare är dock detta: när företag skalar sin distribution av AI till mer kritiska och påverkande användningsfall, ökar risken för en osäker, oförklarlig AI-pipeline exponentiellt. I en värld där kreditbeslut och anställningsbeslut redan är AI-förstärkta, och påverkar allt från personliga finanser till karriärer, kan en avsiktlig eller oavsiktlig fel i en AI-pipeline ha en dramatisk effekt på en individs liv.

Många företag fokuserar på modellens noggrannhet eller latens. Vad försummar de när det gäller dataintegritet och långsiktig operativ risk?

Medan många företag fokuserar på modellen eller AI-teknologin, har jag länge trott att data är den grundläggande flaskhalsen för att rulla ut värdeskapande AI.

Att ha en modell som snabbt genererar en exakt respons om ett ämne som slutanvändaren inte bryr sig om genererar noll värde. För att bygga en unikt tilltalande produkt måste företag säkerställa att deras modeller, och de produkter de driver, är utbildade med högkvalitativ, relevant data. Datahygienproblem som uppstår på grund av brist på högkvalitativ indata kan inte dyka upp förrän månader senare.

Andra, har vi funnit att företag generellt inte har en bra berättelse för att upptäcka dataavvikelse, förorening eller läckage, vilket äventyrar modellens integritet. Detta är tätt kopplat till min första punkt, och medan det är en mer reaktiv lösning, gör det utvärderingar och granskbarhet ännu viktigare.

OPAQUE integreras i befintliga molnstackar. Vad har du lärt dig om att balansera lätt antagande med starka säkerhetsgarantier i företagsdistributioner?

Vi har tillbringat nästan ett decennium, från och med våra forskningsdagar, med att lösa detta problem. Den bevisbara säkerheten för AI-system, särskilt i en företagsmiljö, är ett mycket svårt problem. Det kräver system, säkerhet, kryptografi och AI-experter. Som ett resultat har de flesta system vi har sett inte varit grundläggande säkra – eftersom säkerhet är så svårt att implementera.

På Opaque har vi byggt en produkt som är det bästa av båda världar – inneboende och verifierbart säker från grunden, men lätt att distribuera via molnmarknader och tillräckligt flexibel för att integreras i nya och befintliga AI-applikationer.

Vilka typer av hot eller sårbarheter uppstår runt AI-pipelines och data delning som företagsledare kanske inte helt uppskattar?

Vad vi har sett i denna agenter-rush är en blind brådska mot att distribuera AI-agenter som interagerar med olika system av post. Medan dessa agenter kan tillhandahålla värde, utgör de också enorma risker eftersom de berör så många system med värdefull data. Agenter är inneboende icke-deterministiska, och vi har sett otaliga instanser där de går och gör något vi inte förväntar oss. I en värld där din data är din enda vallgrav, bör företagsledare alltid ifrågasätta om de kan lita på och förlita sig på AI-agenter som har tillgång till all deras data för att inte oavsiktligt eller avsiktligt missbruka den.

Som AI-reglering tar form globalt, hur ser du på samspelen mellan säker datainfrastruktur, modellansvar och efterlevnad utvecklas under de närmaste åren?

Verifierbart säker datainfrastruktur möjliggör modell- och agentansvar. Specifikt, utan verifierbart bevis för en agents eller modells beslutsfattande eller verktygsanvändning, kan vi inte vara säkra på någonting, så vi kommer inte att kunna spåra ansvar. När AI blir alltmer integrerat i våra dagliga liv, vill vi ha mer förklarbarhet och granskbarhet i AI. Men när AI kan operera i maskinens hastighet, och vi inte kan, kan en illvillig AI lätt lura oss genom att konstruera falska historier. Vi behöver verifierbarhet för att hålla AI ansvarigt.

För mig är regleringsenhet väldigt reaktiv. Utvecklingen och antagandet av regleringar rör sig mycket långsammare än teknisk innovation. Detta kommer att bli alltmer sant när AI hjälper oss att öka vår innovationshastighet. Medan efterlevnad slutligen kommer att driva efterföljare att anta säker datainfrastruktur, kommer tidiga antagare och tidig majoritet att inse att det är avgörande för AI-säkerhet, och kommer att anta det långt innan efterlevnad gör det obligatoriskt. De förstår att agentansvar, möjliggjort av säker datainfrastruktur, är avgörande för antagandet av sina egna AI-drivna produkter. Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka OPAQUE.