Jonathan Dambrot, CEO și Co-Fondator al Cranium AI – Seria de Interviuri

Jonathan Dambrot este CEO și Co-Fondator al Cranium AI, o întreprindere care ajută echipele de securitate cibernetică și știință a datelor să înțeleagă unde AI impactează sistemele, datele sau serviciile lor.

Jonathan este un fost partener la KPMG, lider în industria securității cibernetice și vizionar. Înainte de a se alătura KPMG, el a condus Prevalent pentru a deveni un lider în industria de gestionare a riscului de la terți, înainte de vânzarea către Insight Venture Partners la sfârșitul anului 2016. În 2019, Jonathan a predat rolul de CEO al Prevalent, pe măsură ce compania și-a continuat creșterea sub o nouă conducere. El a fost citat în numeroase publicații și vorbește în mod regulat cu grupuri de clienți despre tendințe în IT, securitatea informației și conformitate.

Puteți împărtăși povestea de origine din spatele Cranium AI?

Am avut ideea Cranium în jurul lunii iunie 2021, când eram partener la KPMG și conduceam serviciile de securitate a terților la nivel global. Construiam și livram soluții bazate pe AI pentru unii dintre cei mai mari clienți ai noștri și am descoperit că nu făceam nimic pentru a le securiza împotriva amenințărilor adversarilor. Așa că, am pus aceeași întrebare liderilor de securitate cibernetică de la cei mai mari clienți ai noștri, și răspunsurile pe care le-am primit au fost la fel de îngrozitoare. Multe dintre echipele de securitate nu vorbiseră niciodată cu oamenii de știință a datelor – vorbeau limbi complet diferite atunci când venea vorba de tehnologie și, în cele din urmă, nu aveau nicio vizibilitate asupra AI care rulează în întreaga întreprindere. Toate acestea, combinate cu dezvoltarea regulamentelor, au fost declanșatorul pentru a construi o platformă care să poată oferi securitate pentru AI. Am început să lucrăm cu incubatorul KPMG Studio și am adus câțiva dintre cei mai mari clienți ai noștri ca parteneri de design pentru a ghida dezvoltarea pentru a satisface nevoile acestor mari întreprinderi. În ianuarie anului acesta, Syn Ventures a venit pentru a finaliza finanțarea inițială, și am ieșit independent de KPMG în martie și am ieșit din perioada de stealth în aprilie 2023.

Ce este Cranium AI Card și ce insight-uri cheie oferă?

Cranium AI Card permite organizațiilor să colecteze și să împărtășească eficient informații despre încrederea și conformitatea modelelor lor de AI cu clienții și regulatorii și să obțină vizibilitate asupra securității sistemelor de AI ale furnizorilor. În cele din urmă, ne propunem să oferim echipelor de securitate și conformitate capacitatea de a vizualiza și monitoriza securitatea AI din lanțul de aprovizionare, de a-și alinia sistemele de AI cu cerințele actuale și viitoare de conformitate și de a împărtăși cu ușurință faptul că sistemele lor de AI sunt securizate și de încredere.

Care sunt unele dintre problemele de încredere pe care oamenii le au cu AI și care sunt rezolvate cu această soluție?

Oamenii, în general, vor să știe ce se află în spatele AI pe care îl folosesc, mai ales când fluxurile lor de lucru zilnice sunt afectate într-un fel sau altul de AI. Ne propunem să oferim clienților noștri capacitatea de a răspunde la întrebările pe care le vor primi în curând de la clienții lor, cum ar fi “Cum este guvernat?”, “Ce se face pentru a securiza datele și modelele?” și “A fost această informație validată?”. AI Card oferă organizațiilor o modalitate rapidă de a aborda aceste întrebări și de a demonstra transparența și încrederea în sistemele lor de AI.

În octombrie 2022, Biroul de Știință și Tehnologie al Casei Albe (OSTP) a publicat un Plan de Acțiune pentru un Bill of Rights al Inteligenței Artificiale, care a prezentat o hartă nelegislativă pentru utilizarea responsabilă a AI. Puteți discuta despre punctele dumneavoastră de vedere personale cu privire la avantaje și dezavantaje ale acestui proiect de lege?

Deși este incredibil de important că Casa Albă a făcut acest prim pas în definirea principiilor de conducere pentru AI responsabil, nu credem că a mers suficient de departe pentru a oferi îndrumări pentru organizații și nu doar pentru indivizi îngrijorați de apelarea unei decizii bazate pe AI. Îndrumarea viitoare de reglementare ar trebui să nu fie doar pentru furnizorii de sisteme de AI, ci și pentru utilizatori, pentru a putea înțelege și utiliza această tehnologie într-un mod sigur și securizat. În cele din urmă, beneficiul major este că sistemele de AI vor fi mai sigure, mai incluzive și mai transparente. Cu toate acestea, fără un cadru bazat pe risc pentru ca organizațiile să se pregătească pentru reglementările viitoare, există potențialul de a încetini ritmul inovării, mai ales în circumstanțele în care îndeplinirea cerințelor de transparență și explicabilitate este tehnic infezabilă.

Cum ajută Cranium AI companiile să respecte acest Bill of Rights?

Cranium Enterprise ajută companiile să dezvolte și să livreze sisteme sigure și securizate, ceea ce este primul principiu cheie din Bill of Rights. În plus, AI Card ajută organizațiile să îndeplinească principiul de notificare și explicație, permițându-le să împărtășească detalii despre modul în care funcționează sistemele lor de AI și ce date utilizează.

Ce este Cadrul de Management al Riscului AI al NIST și cum va ajuta Cranium AI întreprinderile să își îndeplinească obligațiile de conformitate pentru acest cadru?

Cadrul de Management al Riscului AI al NIST este un cadru pentru organizații pentru a gestiona mai bine riscurile asociate cu AI. Urmează o structură foarte similară cu celelalte cadre ale NIST, prin descrierea rezultatelor unui program de gestionare a riscurilor de succes pentru AI. Am cartografiat AI Card-ul nostru la obiectivele descrise în cadru pentru a sprijini organizațiile în urmărirea modului în care sistemele lor de AI se aliniază cu cadrul și, dat fiind că platforma noastră de întreprindere colectează deja o mulțime de informații, putem popula și valida automat unele dintre câmpuri.

Actul UE privind Inteligența Artificială este una dintre cele mai monumentale legi AI pe care le-am văzut în istoria recentă. De ce ar trebui companiile non-UE să se conformeze acestuia?

Similar cu GDPR pentru confidențialitatea datelor, Actul UE privind Inteligența Artificială va schimba fundamental modul în care întreprinderile globale dezvoltă și operează sistemele lor de AI. Organizațiile cu sediul în afara UE vor trebui totuși să acorde atenție și să se conformeze cerințelor, deoarece orice sisteme de AI care utilizează sau afectează cetățeni europeni vor cădea sub incidența cerințelor, indiferent de jurisdicția companiei.

Cum se pregătește Cranium AI pentru Actul UE privind Inteligența Artificială?

La Cranium, am urmărit dezvoltarea Actului UE privind Inteligența Artificială de la început și am adaptat designul ofertei noastre de produs AI Card pentru a sprijini companiile în îndeplinirea cerințelor de conformitate. Ne simțim ca avem un avans bun, dat fiind conștientizarea noastră timpurie a Actului UE privind Inteligența Artificială și a modului în care a evoluat de-a lungul anilor.

De ce ar trebui Inteligența Artificială Responsabilă să devină o prioritate pentru întreprinderi?

Ritmul la care AI este încorporat în fiecare proces și funcție de afaceri înseamnă că lucrurile pot scăpa de sub control rapid, dacă nu se face în mod responsabil. Prioritizarea Inteligenței Artificiale Responsabile acum, la începutul revoluției AI, va permite întreprinderilor să se extindă mai eficient și să nu se confrunte cu obstacole majore și probleme de conformitate mai târziu.

Care este viziunea dumneavoastră pentru viitorul Cranium AI?

Ne vedem Cranium devenind adevăratul rege al categoriei pentru AI securizat și de încredere. Deși nu putem rezolva totul, cum ar fi provocările complexe precum utilizarea etică și explicabilitatea, ne propunem să colaborăm cu lideri din alte domenii ale Inteligenței Artificiale Responsabile pentru a impulsiona un ecosistem care să facă lucrurile simple pentru clienții noștri pentru a acoperi toate domeniile Inteligenței Artificiale Responsabile. De asemenea, ne propunem să lucrăm cu dezvoltatorii de soluții inovatoare de AI generativ pentru a sprijini securitatea și încrederea în aceste capacități. Vrem ca Cranium să permită companiilor de pe glob să continue să inoveze într-un mod securizat și de încredere.

Mulțumim pentru acest interviu minunat. Citiitorii care doresc să afle mai multe pot vizita Cranium AI.