Jonathan Dambrot, CEO og medgrunnlegger av Cranium AI – Intervju-serie

Jonathan Dambrot er CEO og medgrunnlegger av Cranium AI, et foretak som hjelper selskaper med å forstå hvor AI påvirker deres systemer, data eller tjenester.

Jonathan er en tidligere partner i KPMG, en ledende ekspert på cybersikkerhet og en visjonær. Før han kom til KPMG, ledet han Prevalent til å bli en ledende leverandør av tredjepartsrisikostyring ifølge Gartner og Forrester, før salget til Insight Venture Partners i slutten av 2016. I 2019 overtok Jonathan rollen som CEO i Prevalent, mens selskapet fortsatte å vokse under ny ledelse. Han har blitt sitert i flere publikasjoner og holder jevnlig foredrag for kunder om trender i IT, informasjonssikkerhet og compliance.

Kan du dele historien bak Cranium AI?

Jeg fikk ideen til Cranium i juni 2021, da jeg var partner i KPMG og ledet tredjepartsikkerhetstjenestene globalt. Vi bygde og leverte AI-drevne løsninger for noen av våre største kunder, og jeg oppdaget at vi ikke gjorde noe for å sikre dem mot motstandertrusler. Så jeg stilte det samme spørsmålet til sikkerhetslederne i våre største kunder, og svarene jeg fikk var like ille. Mange av sikkerhetsteamene hadde aldri engang snakket med dataekspertene – de snakket helt forskjellige språk når det kom til teknologi og hadde null visibilitet i AI som kjørte over hele bedriften. All dette kombinert med den stadig voksende utviklingen av reguleringskrav var utløsende for å bygge en plattform som kunne gi sikkerhet til AI. Vi begynte å arbeide med KPMG Studio-inkubator og tok med noen av våre største kunder som designpartnere for å guide utviklingen for å møte behovene til disse store bedriftene. I januar i år kom Syn Ventures inn for å fullføre seed-finansieringen, og vi spinnet ut uavhengig av KPMG i mars og kom ut av stealth i april 2023.

Hva er Cranium AI-kortet og hva slags innsikt gir det?

Cranium AI-kortet lar organisasjoner samle og dele informasjon om tillitsverdigheten og compliance av deres AI-modeller med både kunder og myndigheter, og gi visibilitet i sikkerheten til deres leverandørers AI-systemer. Til slutt ser vi for å gi sikkerhets- og compliance-teamene muligheten til å visualisere og overvåke sikkerheten til AI i deres leverandørkjede, og tilpasse deres egne AI-systemer til gjeldende og kommende compliance-krav og rammer, og enkelt dele at deres AI-systemer er sikre og tillitsverdige.

Hva er noen av tillitsproblemer folk har med AI som løses med denne løsningen?

Folk vil generelt vite hva som ligger bak AI de bruker, spesielt siden AI påvirker stadig flere av deres daglige arbeidsflyter på en eller annen måte. Vi ser for å gi våre kunder muligheten til å svare på spørsmål de snart vil motta fra sine egne kunder, som “Hvordan styres dette?”, “Hva gjøres for å sikre data og modeller?” og “Har denne informasjonen blitt valideret?”. AI-kortet gir organisasjoner en rask måte å besvare disse spørsmålene og demonstrere både transparens og tillitsverdighet i deres AI-systemer.

I oktober 2022 publiserte Det hvite hus’ kontor for vitenskap og teknologi (OSTP) en plan for en AI-bill of rights, som delte en ikke-bindende veikart for ansvarlig bruk av AI. Kan du diskutere dine personlige synspunkter på fordelene og ulemper ved denne loven?

Det er veldig viktig at Det hvite hus tok dette første skrittet i å definere retningslinjene for ansvarlig AI, men vi tror ikke det gikk langt nok i å gi veiledning for organisasjoner og ikke bare enkeltpersoner som er bekymret for å anke en AI-basert beslutning. Fremtidig reguleringsveiledning bør ikke bare være for leverandører av AI-systemer, men også for brukere som kan forstå og utnytte denne teknologien på en trygg og sikker måte. Til slutt vil AI-systemer være tryggere, mer inkluderende og mer transparente. Men uten en risikobasert ramme for organisasjoner til å forberede seg på fremtidig regulering, er det potensial for å bremse innovasjonstakten, spesielt i situasjoner hvor det er teknisk umulig å møte kravene om transparens og forklarbarhet.

Hvordan hjelper Cranium AI selskaper med å følge denne loven?

Cranium Enterprise hjelper selskaper med å utvikle og levere trygge og sikre systemer, som er det første nøkkelprinsippet i loven. I tillegg hjelper AI-kortet organisasjoner med å møte prinsippet om varsling og forklaring ved å la dem dele detaljer om hvordan deres AI-systemer faktisk fungerer og hva slags data de bruker.

Hva er NIST AI Risk Management Framework, og hvordan vil Cranium AI hjelpe bedrifter med å oppfylle deres AI-sikkerhetsplikter i forhold til denne rammen?

NIST AI RMF er en ramme for organisasjoner til å bedre håndtere risikoer forbundet med AI. Den følger en lignende struktur som deres andre rammer ved å angi resultater av en vellykket risikostyringsprogram for AI. Vi har kartlagt vårt AI-kort til målene i rammen for å støtte organisasjoner i å spore hvordan deres AI-systemer er i samsvar med rammen, og ettersom vårt enterprise-plattform allerede samler inn mye av denne informasjonen, kan vi automatisk fylle ut og validere noen av feltene.

EU AI Act er en av de mest monumentale AI-lovene vi har sett i nyere historie, hvorfor bør ikke-EU-selskaper følge den?

Liknende GDPR for dataprivacy, vil AI Act fundamentalt endre måten globalt bedrifter utvikler og opererer sine AI-systemer. Selskaper utenfor EU må likevel følge kravene, ettersom AI-systemer som bruker eller påvirker europeiske borgere, uansett selskapets jurisdiksjon, vil falle under kravene.

Hvordan forbereder Cranium AI seg på EU AI Act?

Hos Cranium har vi fulgt utviklingen av AI Act fra begynnelsen og har tilpasset designet av vårt AI-kortprodukt til å støtte selskaper i å møte compliance-kravene. Vi føler at vi har en god start ettersom vi var tidlig ute og har fulgt hvordan AI Act har utviklet seg over årene.

Hvorfor bør ansvarlig AI bli en prioritet for bedrifter?

Hastigheten som AI blir integrert i alle forretningsprosesser og funksjoner betyr at ting kan gå ut av kontroll raskt hvis det ikke gjøres på en ansvarlig måte. Å prioritere ansvarlig AI nå, på begynnelsen av AI-revolusjonen, vil tillate bedrifter å skalerer mer effektivt og unngå store hindringer og compliance-problemer senere.

Hva er din visjon for fremtiden til Cranium AI?

Vi ser for at Cranium blir den sanne kategori-kongen for sikker og tillitsverdig AI. Mens vi ikke kan løse alt, som komplekse utfordringer som etisk bruk og forklarbarhet, ser vi for å samarbeide med ledere i andre områder av ansvarlig AI for å drive en økosystem som gjør det enkelt for våre kunder å dekke alle områder av ansvarlig AI. Vi ser også for å samarbeide med utviklerne av innovative generative AI-løsninger for å støtte sikkerheten og tilliten til disse kapasitetene. Vi ønsker at Cranium skal enable selskaper over hele verden til å fortsette å innovere på en sikker og tillitsfull måte.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke Cranium AI.