Jonathan Dambrot, VD och medgrundare av Cranium AI – Intervjuserie

Jonathan Dambrot är VD och medgrundare av Cranium AI, ett företag som hjälper cybersäkerhets- och datavetenskapsteam att förstå var AI påverkar deras system, data eller tjänster.

Jonathan är en tidigare partner på KPMG, ledare inom cybersäkerhetsbranschen och visionär. Innan KPMG ledde han Prevalent till att bli en branschledare enligt Gartner och Forrester inom tredjepartsriskhantering innan företaget såldes till Insight Venture Partners i slutet av 2016. År 2019 lämnade Jonathan över VD-rollen på Prevalent när företaget skulle fortsätta sin tillväxt under ny ledning. Han har citerats i flera publikationer och talar regelbundet till grupper av kunder om trender inom IT, informationssäkerhet och regelefterlevnad.

Kan du dela med dig av ursprunget till Cranium AI?

Jag fick idén till Cranium i juni 2021 när jag var partner på KPMG och ledde Third-Party Security-tjänsterna globalt. Vi byggde och levererade AI-drivna lösningar till några av våra största kunder, och jag upptäckte att vi inte gjorde någonting för att skydda dem mot adversativa hot. Så jag ställde samma fråga till cybersäkerhetsledarna på våra största kunder, och svaren jag fick tillbaka var lika dåliga. Många av säkerhetsteamen hade aldrig ens talat med datavetarna – de talade helt olika språk när det gällde teknik och hade i princip noll synlighet i den AI som kördes över hela företaget. Allt detta i kombination med den stadigt växande utvecklingen av regler var utlösaren för att bygga en plattform som kunde ge säkerhet till AI. Vi började arbeta med KPMG Studio-incubatorn och tog in några av våra största kunder som designpartners för att vägleda utvecklingen för att möta behoven hos dessa stora företag. I januari i år kom Syn Ventures in för att slutföra seedfinansieringen, och vi gick ut som ett självständigt företag från KPMG i mars och gick ur stealth-läget i april 2023.

Vad är Cranium AI-kortet och vilka viktiga insikter avslöjar det?

Cranium AI-kortet låter organisationer effektivt samla in och dela information om tillförlitligheten och regelefterlevnaden hos deras AI-modeller med både kunder och myndigheter och ge synlighet i säkerheten hos deras leverantörers AI-system. I slutändan vill vi ge säkerhets- och regelefterlevnadsteam möjlighet att visualisera och övervaka säkerheten hos AI i deras leverantörskedja, anpassa sina egna AI-system till nuvarande och kommande regelefterlevnadskrav och ramverk och enkelt dela att deras AI-system är säkra och tillförlitliga.

Vilka är några av de tillitsproblem som människor har med AI som löses med denna lösning?

Människor vill vanligtvis veta vad som ligger bakom den AI de använder, särskilt eftersom allt fler av deras dagliga arbetsflöden påverkas på något sätt av AI. Vi vill ge våra kunder möjlighet att besvara frågor som de snart kommer att få från sina egna kunder, såsom “Hur styrs detta?”, “Vad görs för att säkra data och modeller?” och “Har denna information validerats?”. AI-kortet ger organisationer en snabb väg att besvara dessa frågor och visa både transparens och tillförlitlighet hos deras AI-system.

I oktober 2022 publicerade Vita husets kontor för vetenskap och teknologi (OSTP) en plan för en AI-rättighetsförklaring, som delade en icke-bindande vägledning för ansvarsfull användning av AI. Kan du diskutera dina personliga åsikter om fördelarna och nackdelarna med denna lag?

Medan det är otroligt viktigt att Vita huset tog detta första steg i att definiera de ledande principerna för ansvarsfull AI, tror vi inte att det gick tillräckligt långt för att ge vägledning för organisationer och inte bara för individer som är oroliga för att överklaga ett AI-baserat beslut. Framtida regleringsvägledning bör inte bara vara för tillhandahållare av AI-system, utan också för användare att förstå och utnyttja denna teknik på ett säkert och säkert sätt. I slutändan är den stora fördelen att AI-system kommer att vara säkrare, mer inkluderande och mer transparenta. Men utan en riskbaserad ram för organisationer att förbereda sig för framtida reglering, finns det potential för att sakta ner innovations takten, särskilt i situationer där det är tekniskt omöjligt att uppfylla kraven på transparens och förklarbarhet.

Hur hjälper Cranium AI företag med att följa denna rättighetsförklaring?

Cranium Enterprise hjälper företag med att utveckla och leverera säkra och säkra system, vilket är den första nyckelprincipen inom rättighetsförklaringen. Dessutom hjälper AI-kortet organisationer med att uppfylla principen om meddelande och förklaring genom att låta dem dela information om hur deras AI-system faktiskt fungerar och vilka data de använder.

Vad är NIST AI Risk Management Framework, och hur kommer Cranium AI att hjälpa företag med att uppfylla sina AI-efterlevnadsåtaganden för detta ramverk?

NIST AI RMF är ett ramverk för organisationer att bättre hantera risker förknippade med AI. Det följer en mycket liknande struktur som deras andra ramverk genom att beskriva resultaten av ett lyckat riskhanteringsprogram för AI. Vi har kartlagt vårt AI-kort till målen i ramverket för att stödja organisationer i att spåra hur deras AI-system överensstämmer med ramverket och eftersom vår företagsplattform redan samlar in mycket av denna information, kan vi automatiskt fylla i och validera vissa fält.

EU:s AI-lag är en av de mest monumentala AI-lagstiftningarna som vi har sett i modern historia, varför bör företag utanför EU följa den?

Liknande GDPR för dataskydd, kommer AI-lagen att fundamentalt förändra sättet som globala företag utvecklar och driver sina AI-system. Organisationer utanför EU kommer fortfarande att behöva uppmärksamma och följa kraven, eftersom alla AI-system som använder eller påverkar EU-medborgare kommer att omfattas av kraven, oavsett företagets jurisdiktion.

Hur förbereder sig Cranium AI för EU:s AI-lag?

På Cranium har vi följt utvecklingen av AI-lagen från början och har anpassat designen av vårt AI-kort för att stödja företag i att uppfylla kraven på regelefterlevnad. Vi känner att vi har ett bra försprång med tanke på vår tidiga medvetenhet om AI-lagen och hur den har utvecklats över åren.

Varför bör ansvarsfull AI bli en prioritet för företag?

Hastigheten med vilken AI integreras i varje affärsprocess och funktion innebär att saker kan komma ur kontroll snabbt om det inte görs på ett ansvarsfullt sätt. Att prioritera ansvarsfull AI nu i början av AI-revolutionen kommer att låta företag skala mer effektivt och inte springa in i stora hinder och regelefterlevnadsproblem senare.

Vad är din vision för framtiden för Cranium AI?

Vi ser Cranium som den sanna kungsklassen för säker och tillförlitlig AI. Medan vi inte kan lösa allt, som till exempel komplexa utmaningar som etisk användning och förklarbarhet, vill vi samarbeta med ledare inom andra områden av ansvarsfull AI för att driva ett ekosystem som gör det enkelt för våra kunder att täcka alla områden av ansvarsfull AI. Vi vill också samarbeta med utvecklarna av innovativa generativa AI-lösningar för att stödja säkerheten och tillförlitligheten hos dessa funktioner. Vi vill att Cranium ska möjliggöra för företag över hela världen att fortsätta innovera på ett säkert och tillförlitligt sätt.

Tack för den utmärkta intervjun, läsare som vill lära sig mer kan besöka Cranium AI.