Jonathan Dambrot, CEO & Co-Founder van Cranium AI – Interview Serie

Jonathan Dambrot is de CEO & Co-Founder van Cranium AI, een onderneming die cybersecurity- en datascience-teams helpt om overal te begrijpen waar AI een impact heeft op hun systemen, data of diensten.

Jonathan is een voormalig partner bij KPMG, een leider in de cybersecurity-industrie en een visionair. Voordat hij bij KPMG kwam, leidde hij Prevalent tot een Gartner- en Forrester-industrieleider in 3rd party risk management voordat het in 2016 aan Insight Venture Partners werd verkocht. In 2019 nam Jonathan de rol van CEO van Prevalent over toen het bedrijf zijn groei onder nieuwe leiding wilde voortzetten. Hij is geciteerd in verschillende publicaties en spreekt regelmatig met groepen klanten over trends in IT, informatiebeveiliging en compliance.

Kunt u de oorsprong van Cranium AI vertellen?

Ik kreeg het idee voor Cranium rond juni 2021, toen ik partner was bij KPMG en wereldwijd de diensten voor Third-Party Security leidde. We bouwden en leverden AI-gestuurde oplossingen voor enkele van onze grootste klanten, en ik merkte dat we niets deden om ze te beveiligen tegen adversarial threats. Dus vroeg ik hetzelfde aan de cybersecurity-leiders bij onze grootste klanten, en de antwoorden die ik kreeg waren even slecht. Veel van de beveiligingsteams hadden nooit met de datawetenschappers gesproken – ze spraken totaal verschillende talen als het om technologie ging en hadden uiteindelijk geen enkele zichtbaarheid in de AI die over het hele bedrijf draaide. Alles bij elkaar, in combinatie met de gestaag groeiende ontwikkeling van regelgeving, was de trigger om een platform te bouwen dat beveiliging voor AI kon bieden. We begonnen te werken met de KPMG Studio-incubator en haalden enkele van onze grootste klanten binnen als ontwerp-partners om de ontwikkeling te begeleiden en te voldoen aan de behoeften van deze grote ondernemingen. In januari van dit jaar kwam Syn Ventures om de Seed-financiering te voltooien, en we splitsten ons onafhankelijk van KPMG in maart en kwamen uit de stealth in april 2023.

Wat is de Cranium AI Card en welke belangrijke inzichten geeft hij?

De Cranium AI Card stelt organisaties in staat om efficiënt informatie te verzamelen en te delen over de betrouwbaarheid en compliance van hun AI-modellen met zowel klanten als regulators en geeft zichtbaarheid in de beveiliging van de AI-systemen van hun leveranciers. Uiteindelijk willen we beveiligings- en compliance-teams de mogelijkheid geven om de beveiliging van de AI in hun toeleveringsketen te visualiseren en te controleren, hun eigen AI-systemen uit te lijnen met de huidige en komende compliance-eisen en -kaders, en gemakkelijk te delen dat hun AI-systemen beveiligd en betrouwbaar zijn.

Wat zijn enkele van de vertrouwensproblemen die mensen hebben met AI die met deze oplossing worden opgelost?

Mensen willen over het algemeen weten wat er achter de AI zit die ze gebruiken, vooral nu hun dagelijkse workflows op de een of andere manier door AI worden beïnvloed. We willen onze klanten de mogelijkheid geven om vragen te beantwoorden die ze binnenkort van hun eigen klanten zullen krijgen, zoals “Hoe wordt dit beheerd?”, “Wat wordt er gedaan om de data en modellen te beveiligen?” en “Is deze informatie gevalideerd?”. De AI-kaart geeft organisaties een snelle manier om deze vragen te beantwoorden en om zowel de transparantie als de betrouwbaarheid van hun AI-systemen te demonstreren.

In oktober 2022 publiceerde het Witte Huis het kantoor van Wetenschap en Technologiebeleid (OSTP) een Blueprint voor een AI Bill of Rights, die een niet-bindende roadmap voor het verantwoord gebruik van AI deelde. Kunt u uw persoonlijke mening over de voor- en nadelen van deze wet bespreken?

Hoewel het enorm belangrijk is dat het Witte Huis deze eerste stap heeft genomen in het definiëren van de leidende principes voor verantwoord AI, geloven we niet dat het ver genoeg ging om richtlijnen te geven voor ondernemingen en niet alleen voor individuen die zich zorgen maken over het beroep tegen een AI-gebaseerde beslissing. Toekomstige regelgevingsrichtlijnen zouden niet alleen voor aanbieders van AI-systemen moeten zijn, maar ook voor gebruikers om deze technologie op een veilige en beveiligde manier te kunnen gebruiken. Uiteindelijk is het grote voordeel dat AI-systemen veiliger, inclusiever en transparanter zullen zijn. Echter, zonder een risicogebaseerd kader voor ondernemingen om zich voor te bereiden op toekomstige regelgeving, is er een mogelijkheid om de innovatie te vertragen, vooral in omstandigheden waarin het voldoen aan transparantie- en uitlegbaarheidsvereisten technisch onhaalbaar is.

Hoe helpt Cranium AI bedrijven bij het naleven van deze Bill of Rights?

Cranium Enterprise helpt bedrijven bij het ontwikkelen en leveren van veilige en beveiligde systemen, wat het eerste belangrijke principe is binnen de Bill of Rights. Bovendien helpt de AI-kaart organisaties bij het naleven van het principe van kennisgeving en uitleg door hen in staat te stellen details te delen over hoe hun AI-systemen werken en welke data ze gebruiken.

Wat is het NIST AI Risk Management Framework, en hoe zal Cranium AI ondernemingen helpen bij het nakomen van hun AI-compliance-verplichtingen voor dit kader?

Het NIST AI RMF is een kader voor ondernemingen om beter risico’s te beheren die verbonden zijn met AI. Het volgt een zeer vergelijkbare structuur als hun andere kaders door de resultaten van een succesvol risicobeheerprogramma voor AI te schetsen. We hebben onze AI-kaart in kaart gebracht met de doelstellingen die in het kader zijn omschreven om ondernemingen te ondersteunen bij het bijhouden van hoe hun AI-systemen overeenkomen met het kader en aangezien ons enterprise-platform al veel van deze informatie verzamelt, kunnen we sommige van de velden automatisch invullen en valideren.

De EU AI Act is een van de meest monumentale AI-wetgevingen die we in recente geschiedenis hebben gezien, waarom zouden niet-EU-bedrijven zich hieraan moeten houden?

Net als de GDPR voor gegevensbescherming zal de AI Act de manier waarop wereldwijde ondernemingen hun AI-systemen ontwikkelen en exploiteren fundamenteel veranderen. Ondernemingen buiten de EU moeten hier nog steeds op letten en zich hieraan houden, omdat AI-systemen die Europeanen gebruiken of beïnvloeden onder de vereisten vallen, ongeacht de jurisdictie van het bedrijf.

Hoe bereidt Cranium AI zich voor op de EU AI Act?

Bij Cranium hebben we de ontwikkeling van de AI Act vanaf het begin gevolgd en hebben we het ontwerp van ons AI-kaart-product aangepast om bedrijven te helpen bij het voldoen aan de compliance-eisen. We denken dat we een goede voorsprong hebben, gezien onze vroege bewustwording van de AI Act en hoe deze is geëvolueerd in de loop der jaren.

Waarom zou verantwoordelijke AI een prioriteit moeten worden voor ondernemingen?

De snelheid waarmee AI in elke bedrijfsproces en -functie wordt geïntegreerd, betekent dat dingen snel uit de hand kunnen lopen als dit niet op een verantwoorde manier gebeurt. Verantwoordelijke AI prioriteit geven aan het begin van de AI-revolutie zal ondernemingen in staat stellen om effectiever te schalen en niet tegen grote obstakels en compliance-problemen aan te lopen.

Wat is uw visie voor de toekomst van Cranium AI?

We zien Cranium als de ware categorie-koning voor beveiligde en betrouwbare AI. Hoewel we niet alles kunnen oplossen, zoals complexe uitdagingen als ethisch gebruik en uitlegbaarheid, willen we samenwerken met leiders in andere gebieden van verantwoordelijke AI om een ecosysteem te creëren dat het voor onze klanten gemakkelijk maakt om alle gebieden van verantwoordelijke AI te dekken. We willen ook samsamenvoegen met de ontwikkelaars van innovatieve generatieve AI-oplossingen om de beveiliging en het vertrouwen van deze capaciteiten te ondersteunen. We willen dat Cranium ondernemingen over de hele wereld in staat stelt om op een beveiligde en vertrouwde manier door te innoveren.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Cranium AI bezoeken.