Jonathan Dambrot, CEO & Co-Founder of Cranium AI – Intervieuserie

Jonathan Dambrot er CEO & Co-Founder af Cranium AI, et foretag, der hjælper cybersecurity- og data science-hold med at forstå, hvor AI påvirker deres systemer, data eller tjenester.

Jonathan er en tidligere partner i KPMG, en leder inden for cybersikkerhedsindustrien og en visionær. Før KPMG ledede han Prevalent til at blive en Gartner- og Forrester-industrileder inden for tredjepartsrisikostyring, før salget til Insight Venture Partners i slutningen af 2016. I 2019 overtog Jonathan rollen som CEO i Prevalent, da virksomheden søger at fortsætte sin vækst under nyt lederskab. Han er citeret i en række publikationer og taler jævnligt til kunder om tendenser inden for IT, informations sikkerhed og compliance.

Kan du dele historien bag Cranium AI?

Jeg fik ideen til Cranium i juni 2021, da jeg var partner i KPMG og ledede Third-Party Security-tjenester globalt. Vi byggede og leverede AI-drevne løsninger til nogle af vores største kunder, og jeg opdagede, at vi ikke gjorde noget for at sikre dem mod fjendtlige trusler. Så jeg stillede det samme spørgsmål til cybersikkerhedslederne hos vores største kunder, og svarene jeg fik, var lige så dårlige. Mange af sikkerhedsholdene havde aldrig engang talt med datavidenskabsfolk – de talte helt forskellige sprog, når det kom til teknologi, og havde ingen indsigt i AI, der kørte på tværs af virksomheden. Alt dette kombineret med den stadig voksende udvikling af regler var udløseren for at bygge en platform, der kunne give sikkerhed til AI. Vi begyndte at arbejde med KPMG Studio inkubator og fik nogle af vores største kunder med som designpartnere for at guide udviklingen til at møde behovene hos disse store virksomheder. I januar i år kom Syn Ventures ind og gennemførte seed-finansieringen, og vi spun out uafhængigt af KPMG i marts og kom ud af stealth i april 2023.

Hvad er Cranium AI-kortet, og hvilke nøgleinsighter afslører det?

Cranium AI-kortet giver organisationer mulighed for effektivt at indsamle og dele information om tillid og compliance for deres AI-modeller med både kunder og myndigheder og give indsigt i sikkerheden af deres leverandørers AI-systemer. Til sidst søger vi at give sikkerheds- og compliance-hold mulighed for at visualisere og overvåge sikkerheden af AI i deres forsyningskæde, tilpasse deres egne AI-systemer til nuværende og kommende compliance-krav og rammer og let dele, at deres AI-systemer er sikre og troværdige.

Hvad er nogle af tillidsproblemerne, som folk har med AI, som løses med denne løsning?

Folk vil generelt gerne vide, hvad der ligger bag AI, som de bruger, især efterhånden som mere og mere af deres daglige arbejdsprocesser påvirkes på en eller anden måde af AI. Vi søger at give vores kunder mulighed for at besvare spørgsmål, som de snart vil få fra deres egne kunder, såsom “Hvordan styres dette?”, “Hvad gøres der for at sikre data og modeller?” og “Er denne information valideret?”. AI-kortet giver organisationer en hurtig måde at besvare disse spørgsmål og demonstrere både gennemsigtighed og tillid til deres AI-systemer.

I oktober 2022 offentliggjorde Det Hvide Hus’ Kontor for Videnskab og Teknologi (OSTP) en plan for en AI-bill of rights, som delte en ikke-bindende vejledning for ansvarlig brug af AI. Kan du diskutere dine personlige synspunkter på fordelene og ulemperne ved denne lov?

Det er utrolig vigtigt, at Det Hvide Hus tog dette første skridt i at definere retningslinjerne for ansvarlig AI, men vi tror ikke, det gik langt nok til at give vejledning for organisationer og ikke kun individer, der er bekymrede for at anke en AI-baseret beslutning. Fremtidig regulering burde ikke kun være for udbydere af AI-systemer, men også for brugere, så de kan forstå og udnytte denne teknologi på en sikker og sikker måde. Til sidst er den store fordel, at AI-systemer vil være sikrere, mere inkluderende og mere gennemsigtige. Men uden en risikobaseret ramme for organisationer til at forberede sig på fremtidig regulering, er der en mulighed for at bremse innovationens tempo, især i situationer, hvor det er teknisk umuligt at opfylde krav om gennemsigtighed og forklarbarhed.

Hvordan hjælper Cranium AI virksomheder med at overholde denne Bill of Rights?

Cranium Enterprise hjælper virksomheder med at udvikle og levere sikre og sikre systemer, som er den første nøgleprincip i Bill of Rights. Derudover hjælper AI-kortet organisationer med at opfylde principperne om meddelelse og forklaring ved at give dem mulighed for at dele detaljer om, hvordan deres AI-systemer faktisk fungerer og hvilke data de bruger.

Hvad er NIST AI-risikostyringsrammen, og hvordan vil Cranium AI hjælpe virksomheder med at opfylde deres AI-samlingerpligter i forhold til denne ramme?

NIST AI-risikostyringsrammen er en ramme for organisationer til bedre at styre risici for individer, organisationer og samfund i forbindelse med AI. Den følger en meget lignende struktur som deres andre rammer ved at definere resultaterne af et succesfuldt risikostyringsprogram for AI. Vi har koblet vores AI-kort til målene i rammen for at støtte organisationer i at spore, hvordan deres AI-systemer er i overensstemmelse med rammen, og da vores enterprise-platform allerede indsamler en masse af denne information, kan vi automatisk udfylde og validere nogle af felterne.

EU’s AI-lov er en af de mere monumentale AI-lovgivninger, vi har set i nyere historie, hvorfor skal ikke-EU-virksomheder overholde den?

Ligesom GDPR for dataprotektion vil AI-loven fundamentalt ændre måden, hvorpå globale virksomheder udvikler og driver deres AI-systemer på. Organisationer uden for EU skal stadig være opmærksomme på og overholde kravene, da alle AI-systemer, der bruger eller påvirker europæiske borgere, vil falde under kravene, uanset virksomhedens jurisdiktion.

Hvordan forbereder Cranium AI sig på EU’s AI-lov?

Hos Cranium har vi fulgt udviklingen af AI-loven fra begyndelsen og har tilpasset designet af vores AI-kortprodukt til at støtte virksomheder i at opfylde samlingerkravene. Vi føler, at vi har en god forhånd, da vi har været meget tidligt opmærksomme på AI-loven og dens udvikling over årene.

Hvorfor skal ansvarlig AI blive en prioritet for virksomheder?

Hastigheden, hvormed AI integreres i hver forretningsproces og funktion, betyder, at ting kan komme ud af kontrol hurtigt, hvis det ikke gøres ansvarligt. At prioritere ansvarlig AI nu i begyndelsen af AI-revolutionen vil give virksomheder mulighed for at skala mere effektivt og ikke løbe ind i store forhindringer og samlingerproblemer senere.

Hvad er din vision for fremtiden for Cranium AI?

Vi ser Cranium som den sande kategori-konge for sikker og troværdig AI. Selv om vi ikke kan løse alt, såsom komplekse udfordringer som etisk brug og forklarbarhed, søger vi at samarbejde med ledere i andre områder af ansvarlig AI for at drive en økosystem, der gør det let for vores kunder at dække alle områder af ansvarlig AI. Vi søger også at samarbejde med udviklerne af innovative generative AI-løsninger for at støtte sikkerheden og tilliden til disse funktioner. Vi vil gerne have, at Cranium skal enable virksomheder på tværs af hele verden til at fortsætte med at innovere på en sikker og troværdig måde.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Cranium AI.