Jonathan Dambrot, CEO & Co-Founder di Cranium AI – Intervista

Jonathan Dambrot è il CEO & Co-Founder di Cranium AI, un’azienda che aiuta i team di sicurezza informatica e scienza dei dati a comprendere dove l’AI sta impattando sui loro sistemi, dati o servizi.

Jonathan è un ex partner di KPMG, leader nel settore della sicurezza informatica e visionario. Prima di KPMG, ha guidato Prevalent fino a diventare un leader di settore secondo Gartner e Forrester nella gestione del rischio di terze parti, prima della sua vendita a Insight Venture Partners alla fine del 2016. Nel 2019, Jonathan ha lasciato il ruolo di CEO di Prevalent mentre l’azienda cercava di continuare la sua crescita sotto una nuova leadership. È stato citato in numerose pubblicazioni e parla regolarmente con gruppi di clienti sui trend nel settore IT, sicurezza informatica e conformità.

Potresti condividere la storia di come è nata Cranium AI?

Ho avuto l’idea di Cranium intorno a giugno 2021, quando ero un partner di KPMG e guidavo i servizi di sicurezza di terze parti a livello globale. Stavamo costruendo e consegnando soluzioni basate sull’AI per alcuni dei nostri clienti più grandi e ho scoperto che non stavamo facendo nulla per proteggerli dalle minacce avversarie. Quindi, ho posto la stessa domanda ai leader della sicurezza informatica dei nostri clienti più grandi e le risposte che ho ricevuto sono state altrettanto preoccupanti. Molti dei team di sicurezza non avevano mai nemmeno parlato con gli scienziati dei dati – parlavano lingue completamente diverse quando si trattava di tecnologia e, in ultima analisi, non avevano alcuna visibilità sull’AI in esecuzione in tutta l’azienda. Tutto ciò, combinato con lo sviluppo costante di regolamenti, è stato il trigger per costruire una piattaforma che potesse fornire sicurezza all’AI. Abbiamo iniziato a lavorare con l’incubatore KPMG Studio e abbiamo portato alcuni dei nostri clienti più grandi come partner di design per guidare lo sviluppo in modo da soddisfare le esigenze di queste grandi aziende. A gennaio di quest’anno, Syn Ventures è entrata a completare il finanziamento iniziale e ci siamo separati da KPMG a marzo, emergendo dalla stealth a aprile 2023.

Cosa è la Cranium AI Card e quali sono le informazioni chiave che rivela?

La Cranium AI Card consente alle organizzazioni di raccogliere e condividere efficientemente informazioni sulla fiducia e sulla conformità dei loro modelli di AI con clienti e regolatori e di ottenere visibilità sulla sicurezza dei sistemi di AI dei loro fornitori. In ultima analisi, cerchiamo di fornire ai team di sicurezza e conformità la capacità di visualizzare e monitorare la sicurezza dell’AI nella loro catena di approvvigionamento, allineare i propri sistemi di AI con le attuali e future esigenze di conformità e framework e condividere facilmente che i loro sistemi di AI sono sicuri e affidabili.

Quali sono alcuni dei problemi di fiducia che le persone hanno con l’AI che vengono risolti con questa soluzione?

Le persone vogliono generalmente sapere cosa c’è dietro l’AI che stanno utilizzando, soprattutto poiché sempre più dei loro flussi di lavoro quotidiani sono in qualche modo influenzati dall’AI. Cerchiamo di fornire ai nostri clienti la capacità di rispondere alle domande che riceveranno presto dai loro clienti, come “Come viene gestito?”, “Cosa si sta facendo per proteggere i dati e i modelli?” e “Queste informazioni sono state validate?”. La Cranium AI Card dà alle organizzazioni un modo rapido per affrontare queste domande e dimostrare la trasparenza e l’affidabilità dei loro sistemi di AI.

Nel ottobre 2022, l’Ufficio per la scienza e la tecnologia della Casa Bianca (OSTP) ha pubblicato un progetto per un Bill of Rights per l’AI, che condivide una roadmap non vincolante per l’uso responsabile dell’AI. Puoi discutere le tue opinioni personali sui pro e contro di questo disegno di legge?

Sebbene sia incredibilmente importante che la Casa Bianca abbia fatto questo primo passo nel definire i principi guida per un’AI responsabile, non crediamo che sia andata abbastanza lontano nel fornire indicazioni per le organizzazioni e non solo per gli individui preoccupati per un decisione basata sull’AI. Le future linee guida regolamentari dovrebbero essere non solo per i fornitori di sistemi di AI, ma anche per gli utenti, in modo che possano comprendere e utilizzare questa tecnologia in modo sicuro e sicuro. In ultima analisi, il principale vantaggio è che i sistemi di AI saranno più sicuri, più inclusivi e più trasparenti. Tuttavia, senza un framework basato sul rischio per le organizzazioni per prepararsi alle future regolamentazioni, c’è il potenziale per rallentare il ritmo dell’innovazione, soprattutto in circostanze in cui soddisfare i requisiti di trasparenza e spiegabilità è tecnicamente infeasibile.

Come Cranium AI aiuta le aziende a rispettare questo Bill of Rights?

Cranium Enterprise aiuta le aziende a sviluppare e consegnare sistemi sicuri e sicuri, che è il primo principio chiave all’interno del Bill of Rights. Inoltre, la Cranium AI Card aiuta le organizzazioni a soddisfare il principio di notifica e spiegazione, consentendo loro di condividere dettagli su come funzionano effettivamente i loro sistemi di AI e quali dati stanno utilizzando.

Cosa è il NIST AI Risk Management Framework e come Cranium AI aiuterà le aziende a soddisfare i loro obblighi di conformità per questo framework?

Il NIST AI RMF è un framework per le organizzazioni per gestire meglio i rischi per gli individui, le organizzazioni e la società associati all’AI. Segue una struttura molto simile ai loro altri framework, delineando gli esiti di un programma di gestione del rischio di successo per l’AI. Abbiamo mappato la nostra AI Card agli obiettivi delineati nel framework per supportare le organizzazioni nel tracciare come i loro sistemi di AI si allineano con il framework e, dato che la nostra piattaforma aziendale raccoglie già molte di queste informazioni, possiamo popolare e convalidare automaticamente alcuni dei campi.

L’EU AI Act è una delle legislazioni sull’AI più monumentali che abbiamo visto nella recente storia, perché le aziende non dell’UE dovrebbero rispettarlo?

Simile al GDPR per la privacy dei dati, l’AI Act cambierà fondamentalmente il modo in cui le aziende globali sviluppano e operano i loro sistemi di AI. Le aziende al di fuori dell’UE dovranno comunque prestare attenzione e rispettare i requisiti, poiché qualsiasi sistema di AI che utilizzi o impatti i cittadini europei rientrerà nei requisiti, indipendentemente dalla giurisdizione dell’azienda.

Come Cranium AI si sta preparando per l’EU AI Act?

Presso Cranium, abbiamo seguito lo sviluppo dell’AI Act fin dall’inizio e abbiamo progettato il nostro prodotto AI Card per supportare le aziende nel soddisfare i requisiti di conformità. Ci sentiamo come se avessimo un ottimo vantaggio iniziale, dato che abbiamo una consapevolezza molto precoce dell’AI Act e di come è evoluta nel corso degli anni.

Perché l’AI responsabile dovrebbe diventare una priorità per le aziende?

La velocità con cui l’AI sta essere integrata in ogni processo e funzione aziendale significa che le cose possono sfuggire al controllo rapidamente se non si agisce in modo responsabile. Dare priorità all’AI responsabile ora, all’inizio della rivoluzione dell’AI, consentirà alle aziende di scalare in modo più efficace e non incontrare grandi ostacoli e problemi di conformità in seguito.

Qual è la tua visione per il futuro di Cranium AI?

Vediamo Cranium come il vero re della categoria per l’AI sicura e affidabile. Sebbene non possiamo risolvere tutto, come ad esempio sfide complesse come l’uso etico e la spiegabilità, cerchiamo di collaborare con leader in altre aree dell’AI responsabile per guidare un ecosistema che renda semplice per i nostri clienti coprire tutte le aree dell’AI responsabile. Cerchiamo anche di lavorare con i sviluppatori di soluzioni innovative di AI generativa per supportare la sicurezza e l’affidabilità di queste capacità. Vogliamo che Cranium consenta alle aziende in tutto il mondo di continuare a innovare in modo sicuro e affidabile.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Cranium AI.