Jen Vescio, president for Empiric Earth – intervjuserie

Jen Vescio er president for Empiric Earth, der hun har ansvar for produktstrategi, selskapsutvikling og kommersialisering. Tidligere var hun Chief Business Development Officer i Uber, der hun ledet den globale forretningsutviklingen og arbeidet med nye partnerskap innen mobilitet og autonom kjøring. Hun har også erfaring med å investere i og gi råd til teknologiselskaper i vekst, med særlig vekt på å bidra til at fysisk KI går fra forskning til kommersiell anvendelse.

Empiric Earth samler Nexar og Nauto for å tilby innsikt i kjøring fra den virkelige verden, sikkerhetsmodeller og valideringsmuligheter. Selskapet kombinerer milliarder av miles med kjøredata med registreringer av sjeldne hendelser for å hjelpe utviklere, bilflåter og andre organisasjoner med å forstå ytelse og risiko. I dette intervjuet snakker Vescio om uavhengig evaluering, ansvarlig dataforvaltning, kommersialisering og infrastrukturen som trengs for å skalere fysisk KI.

Du har hatt en omfattende karriere som spenner over global forretningsutvikling i Uber, investeringer i fremvoksende teknologi og rådgivning til selskaper innen fysisk KI. Du ble først styremedlem i Empiric Earth i april, før du nylig gikk inn i rollen som president. Hva var det som tiltrakk deg ved selskapet, og hva overbeviste deg til slutt om å ta på deg en mer aktiv lederrolle?

Som investor og rådgiver innen fysisk KI så jeg stadig det samme gapet. Mange team gjennomførte eksperimenter, men svært få hadde data fra den virkelige verden som kunne bevise at systemene deres fungerte utenfor et testmiljø. Empiric Earth hadde allerede slike data. Mer enn 10 milliarder miles med faktisk kjøring og 60 millioner grensetilfeller er noe man verken kan kjøpe eller forfalske.

Det gir selskapet en uvanlig posisjon. Vi trenger ikke å konkurrere med selskapene som bygger roboter, kjøretøy eller modeller. Vi kan hjelpe dem alle med å komme raskere ut på markedet ved å tilby innsikten fra den virkelige verden som de trenger for å håndtere risiko, validere ytelse og bygge tillit. Fra styreplassen så jeg muligheten til å bygge noe grunnleggende for hele økosystemet for fysisk KI.

Det som fikk meg til å gå inn i presidentrollen, var Zach og visjonen hans. Jeg har kjent ham siden vi begge jobbet med å bygge partnerskap innen mobilitet, jeg i Uber og han i Lyft. Når noen du har stolt på så lenge, kommer til deg med et vanskelig problem og en ressurs ingen andre har, lytter du. Vi utfyller hverandre. Han tenker på fagfeltet og hvor det er på vei. Jeg har brukt karrieren min på å gjøre ny teknologi om til virksomheter som kan skaleres. Fysisk KI går nå fra forskning til praktisk bruk, og jeg ville ikke bare følge utviklingen fra et styrerom.

Empiric Earth ble dannet gjennom sammenslåingen av Nexar og Nauto, og forener to selskaper med inngående kompetanse innen innsikt i kjøring fra den virkelige verden og KI-drevet sikkerhet. Hvilke unike muligheter gir denne kombinasjonen, og hvordan ser du for deg at det sammenslåtte selskapet skal skille seg ut i det raskt utviklende markedet for fysisk KI?

Nexar og Nauto ble begge grunnlagt i 2015 og brukte til sammen mer enn to tiår på å måle det samme problemet fra to ulike perspektiver. Sammen kan vi forstå hva som skjer på veien, og hvordan sjåførene reagerer på det. Det gir oss et langt rikere bilde av atferd og risiko i den virkelige verden.

For det bredere markedet utgjør dette en bro mellom simulering og den virkelige verden. De fleste team utvikler og tester i simulering, men det vanskelige er å bevise at et system kan fungere pålitelig under reelle forhold. Vi kan hjelpe partnere med å oppdage situasjoner systemene deres ikke har vært utsatt for, forbedre modellene deres og validere ytelsen mot det som faktisk skjer. Det kan forkorte utviklingsløp, redusere risiko og fremskynde kommersialiseringen.

Det som skiller oss ut, er evnen vår til å legge til rette for uavhengig evaluering på tvers av økosystemet for fysisk KI. Vi bygger ikke kjøretøyene, robotene eller de autonome systemene kundene våre utvikler. Vi tilbyr innsikt fra den virkelige verden som hjelper dem med å forstå ytelse, håndtere risiko og bygge tillit. Det krever at vi forplikter oss til nøytralitet, portabilitet og interoperabilitet. Når vi lanserer nye applikasjoner, modeller og tjenester, ønsker vi at kundene skal kunne bruke dem på tvers av ulike maskinvare- og teknologistakker, uten å bli låst til én enkelt leverandør. Målet vårt er å være en «dommer» for hele økosystemet, ikke å velge vinnere i det.

Fysisk KI vokser fram som en av de neste store frontene innen kunstig intelligens, med bruksområder som spenner fra autonome kjøretøy og robotikk til intelligent infrastruktur. Hva mener du er de største hindringene for at disse systemene skal kunne fungere pålitelig i uforutsigbare omgivelser i den virkelige verden, og hvorfor er tilgang til data fra den virkelige verden så avgjørende for å overvinne dem?

Den største hindringen er at den fysiske verden aldri ble skrevet ned. Språkmodeller ble raskt gode fordi de ble trent på flere tiår med tekst som mennesker allerede hadde produsert. Det finnes ingen tilsvarende datamengde for en vei, et lagergulv eller et fortau. Det meste av det som skjer der, som en nestenulykke eller et kjørefelt som ble stengt i morges, blir aldri registrert.

Det skaper to problemer. For det første er den fysiske verden i stadig endring. Et system må vite hva som er sant nå, og et bilde fra i fjor vår kan ikke fortelle det om en vei som ble endret i morges. Man kan heller ikke gå tilbake og samle inn data fra i går. Det andre problemet er fragmentering. Ingen enkeltbedrift har oversikt over nok av verden på egen hånd, så utviklere gjennomfører separate eksperimenter med ulike datasett, modeller og teknologistakker. Det gjør det vanskeligere å sammenligne resultater, dele det som fungerer og omsette lovende forskning til kommersielt levedyktige produkter.

Data fra den virkelige verden gjør det mulig å håndtere begge problemene. De sjeldne hendelsene som får et system til å svikte, skjer et eller annet sted hver dag, og man finner dem bare ved å observere et stort spenn av virkelige forhold kontinuerlig. I de amerikanske dataene våre er det omtrent 19 nestenulykker for hver kollisjon, og nesten ingen av dem blir registrert i en politirapport eller et forsikringskrav. Zach formulerte det godt i et nylig essay: Sikkerhet handler om å studere det som ikke skjedde. Man kan ikke studere slike hendelser hvis ingen har telt dem.

Empiric Earth har samlet inn mer enn 10 milliarder miles med kjørehistorikk og over 60 millioner grensehendelser, og hver måned registreres ytterligere hundrevis av millioner miles. Hvordan kan dette omfattende datasettet hjelpe KI-utviklere med å trene og validere mer pålitelige autonome systemer, særlig når det gjelder sjeldne eller farlige situasjoner som tradisjonelle simuleringer har problemer med å gjenskape?

De fleste systemer håndterer vanlig kjøring godt nå. Det som fortsatt får dem til å svikte, er den lange halen av sjeldne hendelser: en kollisjon, en fotgjenger som trer ut mellom parkerte biler, et dyr i veien eller et veiarbeidsområde som ikke var der forrige uke. Slike hendelser er for sjeldne til at en testflåte kan fange opp et nyttig antall av dem, og simulering kan bare gjenskape det noen allerede har tenkt på å modellere.

Empiric Earth ble utviklet for å finne dem. Vi behandler ikke hver eneste mile nettverket vårt kjører. Vi beholder den lille andelen som modellene våre flagger som uvanlig eller risikofylt, og slik blir 10 milliarder miles til 60 millioner grensehendelser som utviklere faktisk kan bruke.

Team bruker disse dataene på tre måter. De søker i dem: Et team som jobber med veiarbeidsområder, kan hente fram tusenvis av virkelige eksempler på at menneskelige sjåfører har kommet seg gjennom slike områder, i stedet for å skripte noen få. De ber om det som mangler: Hvis et system har problemer med venstresvinger i travle kryss, kan vi rette nettverket mot akkurat dette og samle inn nye eksempler etter hvert som situasjonene oppstår. Og de sammenligner simuleringene sine med virkeligheten. Når en partner rekonstruerer virkelige kollisjoner og nestenulykker med fotgjengere og syklister, kan de undersøke om den simulerte verdenen deres oppfører seg som den virkelige før de lanserer systemet.

Det er dette som gjør dataene verdifulle utover selve datagrunnlaget. Simulering er avgjørende, men den må forankres i det som faktisk skjer i den virkelige verden. Når utviklere får tilgang til slike bevis, kan de avdekke mangler tidligere, forbedre systemene raskere og ta mer velinformerte beslutninger om når systemene er klare til å tas i bruk. Det legger også grunnlaget for mer konsekvent og uavhengig evaluering etter hvert som bransjen vokser.

Et av de viktigste prinsippene til Empiric Earth er at selskapet er uavhengig av produsentene av de autonome systemene og kjøretøyene det evaluerer. Hvorfor blir uavhengig verifisering stadig viktigere etter hvert som fysisk KI nærmer seg utbredt bruk, og hvilke standarder bør bransjen innføre for å etablere meningsfulle referanseverdier for KI-sikkerhet?

Når fysisk KI går fra forskningsmiljøer til offentlige rom, blir tillit like viktig som teknisk ytelse.

I dag baserer store deler av bransjen seg på at utviklerne selv tester og rapporterer om hvor godt systemene deres fungerer. Det er forståelig på dette stadiet, men etter hvert som flere autonome systemer tas i bruk i hverdagsmiljøer, vil kunder, tilsynsmyndigheter og allmennheten i stadig større grad ønske uavhengig dokumentasjon på at systemene fungerer pålitelig.

Vi har sett lignende utfordringer i andre bransjer. Når man setter seg i en bil, finnes det et etablert rammeverk for førerkort, kjøretøykontroller og sikkerhetskrav. Fysisk KI vil trenge egne metoder for å dokumentere beredskap og ytelse. For autonome kjøretøy kan det for eksempel dreie seg om et slags førerkort: en standardisert prøve som viser at et system presterer på nivå med eller bedre enn en menneskelig sjåfør.

Spørsmålet er hvordan vi etablerer meningsfulle referanseverdier som gjenspeiler forholdene i den virkelige verden, i stedet for å basere oss utelukkende på kontrollerte tester eller simuleringer. Disse referanseverdiene må bygge på data fra den virkelige verden, ta høyde for sjeldne og farlige situasjoner og gjøre det mulig å evaluere ytelsen konsekvent på tvers av ulike systemer.

Det er her Empiric Earth kan spille en viktig rolle. Vi mener ikke at selskapene som utvikler autonome systemer, bør være de eneste som evaluerer ytelsen deres. Vår rolle er å tilby uavhengig etterretning om den virkelige verden, modeller og valideringsmuligheter som gjør det mulig for andre å vurdere ytelse, håndtere risiko og bygge tillit. Ved å være nøytrale og interoperable kan vi støtte evaluering på tvers av ulike teknologier og plattformer, i stedet for å favorisere én bestemt tilnærming.

For å etablere standarder må utviklere, forskere, tilsynsmyndigheter og andre interessenter samarbeide. Vi ønsker å bidra med grunnlaget som gjør uavhengig evaluering mulig, slik at tillit bygges på dokumentasjon snarere enn påstander.

Etter hvert som stadig mer avanserte KI-systemer samhandler med den fysiske verden, må organisasjoner balansere behovet for omfattende data fra virkeligheten med personvern, sikkerhet og ansvarlig dataforvaltning. Hvordan håndterer Empiric Earth disse utfordringene, og hvilke sikkerhetstiltak er avgjørende for å bygge offentlig tillit til storskala infrastruktur for fysisk KI?

Tillit begynner med hvordan data samles inn, beskyttes og brukes. Hos Empiric Earth er personvern en integrert del av tilnærmingen vår helt fra starten. Vi fokuserer på å fange opp hendelser fra virkeligheten som gir meningsfull innsikt, i stedet for å behandle hvert øyeblikk av kjøringen som like verdifullt. Avidentifisering og ansvarlig håndtering av data er grunnleggende for denne prosessen.

Dataenes opprinnelse er like viktig. Etter hvert som fysisk KI nærmer seg kommersiell bruk, må utviklerne vite hvor dataene kommer fra, hvordan de ble samlet inn, og hvilke rettigheter som regulerer bruken av dem. Uten dette grunnlaget er det vanskelig å bygge den tilliten som trengs for å skalere.

Ulike markeder har også ulike krav til personvern, samtykke og hvor data lagres. Plattformen vår bruker landsspesifikke innstillinger for hvert av disse områdene, slik at vi kan oppfylle lokale regler uten å bygge om systemet. Vi må ta hensyn til disse forskjellene når vi vurderer hvor og hvordan vi skal ekspandere.

Det overordnede prinsippet er åpenhet. Alle som bygger infrastruktur for fysisk KI, bør kunne forklare hvilke data de samler inn, hvordan de beskytter dem, og hvem som kan bruke dem. Ansvarlig datapraksis er ikke noe som står utenfor arbeidet med å bygge en vellykket virksomhet. Det er en del av det som gjør bred innføring mulig.

Erfaringen din fra Uber handlet om å gjøre nye teknologier og strategiske partnerskap om til virksomheter som kan skaleres. I den nye rollen din har du ansvar for Empiric Earths produktstrategi, selskapsutvikling og kommersialisering. Hvilke lærdommer fra tiden din hos Uber er mest relevante for å skalere fysisk KI, og hvordan avgjør du når dere skal bygge opp kompetanse internt, framfor å satse på oppkjøp eller partnerskap?

Uber lærte meg at det riktige svaret kan endre seg. Vi bygde vårt eget program for autonom kjøring, ATG, fordi vi mente at vi måtte eie hele teknologistakken. Senere solgte vi det til Aurora og gikk tilbake til autonom kjøring gjennom partnerskap. Begge beslutningene ga mening da vi tok dem. Det som endret seg, var kriteriene våre for hastighet, kostnader og risiko.

Derfor stiller vi de samme spørsmålene ved hver beslutning om å bygge selv, kjøpe eller inngå et partnerskap. Hva er risikoen? Hvilke ressurser og hvor mye kapital krever det? Hvor raskt bringer det oss ut på markedet, og hva gjør konkurrentene i mellomtiden? Passer det med strategien?

Empiric Earth tar utgangspunkt i noe annet enn de fleste selskaper, fordi vi allerede har den vanskeligste delen på plass: dataene. Vi bygger videre der dette grunnlaget gir oss et fortrinn som er vanskelig å kopiere. Oppkjøp er fornuftige når de tilfører komplementær kompetanse eller framskynder strategien vår. Partnerskap kan ofte være den raskeste veien til kunder, nye markeder og kommersiell skalering. Fysisk KI favner for bredt til at ett enkelt selskap kan bygge alt, så vi ønsker å samarbeide med partnere som kan bidra til å styrke hele økosystemet, og tilpasse framgangsmåten vår etter både markedsforholdene og samsvaret med konkurransefortrinnet vårt – eiendelene våre.

Du har også vært involvert i økosystemet for KI med åpen kildekode, blant annet gjennom arbeidet med OpenClaw-miljøet. Hvordan mener du innovasjon med åpen kildekode kan bidra til utviklingen av fysisk KI, og kan større åpenhet og samarbeid bidra til raskere innføring samtidig som sikkerhets- og styringsstandardene disse systemene krever, ivaretas?

Åpen kildekode endret tempoet i KI-utviklingen innen programvare. Når flere kan bygge videre på de samme verktøyene, blir forskningssyklusene kortere, og gode ideer kan komme fra alle steder, ikke bare de største laboratoriene. Fysisk KI befinner seg tidligere i denne utviklingen. Mye av feltet er fortsatt på forsknings- og demonstrasjonsstadiet, og spørsmålet nå er hvordan dette arbeidet kan bli til virksomheter som varer.

Jeg ledet partnerskapsarbeidet i OpenClaw Foundation, som ble opprettet for å støtte Peter Steinbergers visjon om personlig, agentbasert KI med åpen kildekode. Det er et av de tydeligste eksemplene jeg har sett på hvordan et åpent prosjekt kan få fart på arbeidet i praksis, fordi folk kunne ta det i bruk, kjøre det på sine egne systemer og tilpasse det til det de faktisk gjør.

Det er denne lærdommen jeg mener feltet fysisk KI bør ta på alvor. Åpne verktøy gjør det mulig for flere team å bygge og eksperimentere uten å begynne fra bunnen av. Når dataene blir værende i kundens eget miljø, i stedet for at kunden må sende dem et annet sted, fjernes en av de største grunnene til at selskaper nøler. En flåte, en by eller en produsent kan bruke KI på sine egne data, under egen kontroll, og se verdien raskere.

Til sammen er disse to ideene veien fra forskning og demonstrasjoner til produkter folk betaler for. Åpenhet alene gjør ikke et system trygt, så det trengs fortsatt reell testing, tydelig styring og ansvarliggjøring. Men et åpent økosystem der dataene blir hos dem de tilhører, får flere systemer i praktisk bruk, og det er da læringen forsterkes over tid.

Hos Empiric Earth er vi opptatt av hvordan åpne verktøy og data som forblir i kundens eget miljø, kan bidra til at hele økosystemet for fysisk KI vokser, samtidig som vi beskytter data fra den virkelige verden som gjør arbeidet vårt verdifullt. Vi mener ikke at utvikling av økosystemet og bygging av en bærekraftig virksomhet trenger å være motstridende mål.

Du har snakket om hvor viktig det er å få flere kvinner inn i lederstillinger innen KI, særlig nå som bransjen begynner å etablere sikkerhetsstandarder og rammeverk for styring som vil forme hvordan intelligente maskiner fungerer i samfunnet. Hvordan tror du større mangfold i ledelsen kan bidra til utvikling av tryggere og mer ansvarlige KI-systemer?

Her er jeg forsiktig, for «få inn flere kvinner, så blir KI tryggere» er en form for skjevhet i seg selv. Poenget er bredere. Agentene vi bygger, lærer av det mennesker allerede har gjort, og av hvordan vi lærer dem opp. Hvis alle som former denne opplæringen, tenker likt, vil systemene få de samme blindsonene.

Mangfold i ledelsen gir flere perspektiver på hva en agent bør verdsette, blant annet empati, omsorg og hvordan et valg oppleves av personen det gjelder. Mange KI-risikoer er tekniske. Andre risikoer oppstår når systemer tar beslutninger som ikke gjenspeiler verdiene eller behovene til dem som berøres. Når ulike perspektiver tas med i slike beslutninger, blir det lettere å oppdage blindsoner før de fører til problemer i den virkelige verden.

Det jeg ønsker meg av disse systemene, er enkelt. De bør hjelpe folk med å ta bedre beslutninger og gi oss mer tid sammen i det virkelige liv. For å få det til trengs det en balanse og reelle kontrollmekanismer basert på mange ulike perspektiver. Ingen enkelt gruppe kan løse dette alene, og vi må motivere og oppmuntre kvinner til å delta og bidra til å styrke forbindelsene mellom agenter og mennesker, mellom agenter og mellom mennesker.

Når du ser tre til fem år fram i tid, hvor ser du de største mulighetene for Empiric Earth utover dagens bruksområder innen trafikksikkerhet og flåteinnsikt? Etter hvert som autonome kjøretøy, robotteknologi og andre teknologier innen fysisk KI blir en stadig mer integrert del av hverdagen, hvilken rolle ser du for deg at Empiric Earth vil spille i infrastrukturen som støtter denne overgangen?

Trafikksikkerhet og flåter var utgangspunktet vårt, og de er fortsatt sentrale deler av virksomheten. Men den større muligheten ligger i å støtte fysisk KI ved å redusere risiko, tilby en valideringsstandard og til syvende og sist gjøre den virkelige verden tryggere.

De grunnleggende utfordringene er like enten du bygger et autonomt kjøretøy, en leveringsrobot eller et system for detaljhandelsanalyse som brukes i et annonse- og handelsnettverk i den virkelige verden. Hvordan forstår du hva som skjer i den virkelige verden? Hvordan vet du om et system kan håndtere uventede situasjoner? Og hvordan evaluerer du ytelsen og håndterer risiko når systemene tas i kommersiell bruk?

Jeg ser for meg at Empiric Earth blir et viktig intelligenslag i økosystemet for fysisk KI, med data fra den virkelige verden, modeller, applikasjoner og tjenester som hjelper utviklere, partnere og operatører med å besvare disse spørsmålene. Uavhengighet, portabilitet og samvirkningsevne vil være viktig for denne visjonen. Vi ønsker at løsningene våre skal fungere på tvers av ulike teknologier og plattformer, slik at kundene kan ta i bruk løsningene som passer best for dem.

Vi har et enestående fundament innen intelligens om kjøring i den virkelige verden, og nå har vi muligheten til å bygge videre på det gjennom nye funksjoner, partnerskap og forretningsmodeller.

Fysisk KI vil ikke kunne skaleres fordi ett selskap bygger den beste roboten eller den beste modellen. Det vil først kunne skaleres når det bredere økosystemet har intelligensen, verktøyene og sikkerhetstiltakene som trengs for å ta systemene i bruk i den virkelige verden. Det er den rollen vi ønsker at Empiric Earth skal spille.

Takk for et flott intervju. Lesere som ønsker å utforske intelligens fra den virkelige verden og uavhengig validering for fysisk KI, bør besøke Empiric Earth.