Cillian Kieran, Fondator și CEO al Ethyca – Seria de interviuri

Cillian Kieran, Fondator și CEO al Ethyca, este un antreprenor serial și inginer de confidențialitate cu peste două decenii de experiență în construirea de afaceri tehnologice intensive pe date. Înainte de a fonda Ethyca în 2019, el a condus agenția digitală CKSK timp de un deceniu și, ulterior, a fondat BrandCommerce, folosindu-se de experiența sa în inginerie software, experiență utilizator și programe de date la scară largă pentru întreprinderi. La Ethyca, Kieran s-a concentrat pe transformarea confidențialității și a guvernanței datelor dintr-o funcție de conformitate în mare măsură manuală în infrastructură care poate fi încorporată direct în modul în care organizațiile construiesc și operează tehnologia.

Ethyca dezvoltă o infrastructură de date de încredere care ajută întreprinderile să descopere informații sensibile, să gestioneze consimțământul, să îndeplinească cererile de confidențialitate și să impună regulile care guvernează modul în care datele sunt utilizate în aplicații convenționale și sisteme de inteligență artificială. Platforma sa este construită în jurul lui Fides, un limbaj de guvernanță cu sursă deschisă care creează un cadru consistent pentru definirea, auditarea și impunerea utilizărilor permise de date în sisteme, API și conducte de inteligență artificială. Compania lansează acum Astralis, un strat de guvernanță a inteligenței artificiale care combină evaluările regulatorii automate cu controalele de acces bazate pe scop, permițând organizațiilor să determine de ce modelele și agenții accesează anumite date și să impună aceste permisiuni în timp real. Ethyca afirmă că platforma poate reduce evaluările care, în mod tradițional, necesită 40 până la 60 de ore de muncă manuală la aproximativ 20 până la 40 de minute, ajutând astfel întreprinderile să extindă implementările de inteligență artificială fără a permite proceselor de guvernanță să devină un blocaj.

Ai fondat mai multe companii înainte de a lansa Ethyca în 2019, inclusiv construirea CKSK într-o consultanță digitală globală care deservește organizații Fortune 500. Care au fost experiențele din această călătorie care te-au convins că guvernanța datelor, și nu modelele de inteligență artificială în sine, va deveni blocajul definitoriu pentru adoptarea inteligenței artificiale la nivel de întreprindere?

Am petrecut ani construind o consultanță digitală care deservește mari întreprinderi, cum ar fi Heineken, Sony și Pepsi, în timpul goanei după aur a publicității digitale și a rețelelor sociale. De multe ori, am văzut același model care se desfășoară. O tehnologie puternică sosește, toată lumea se grăbește să o adopte, și abia atunci când este încorporată în afacere, regulatorii vin să pună limitatoare, lăsând echipele de conformitate să se ocupe de consecințe. Luați GDPR, prima adevărată lovitură dată modului în care companiile utilizează datele personale. Regulatorii au intervenit abia după ce martech și rețelele sociale au transformat colectarea de date în coloana vertebrală a modelelor lor de afaceri. Mi-a fost evident că același model se va repeta și cu inteligența artificială.

Ce a consolidat această bănuială pe care o aveam a fost munca de conformitate cu privire la confidențialitate pe care o făceam la Ethyca. Construind sisteme de conformitate pentru mari întreprinderi, am realizat că puteți pune un strat în jurul datelor unei companii care evaluează fiecare cerere împotriva a trei lucruri: ce sunt datele, ce sunteți autorizat să faceți cu ele și ce este riscul dacă le faceți. Lucrul la acesta a făcut ca constrângerile reale să fie evidente. Întreprinderile nu sunt lipsite de date. Sunt lipsite de un strat de guvernanță care dictează ce date sunt permise a fi utilizate. Acesta a fost pariu pe care l-am făcut în 2019, și de la apariția inteligenței artificiale, a devenit și mai relevant.

De-a lungul anului trecut, inteligența artificială la nivel de întreprindere a trecut de la simple chatbot-uri la agenți autonomi de inteligență artificială capabili să ia decizii și să efectueze acțiuni. Cum a schimbat această evoluție provocările de guvernanță cu care se confruntă organizațiile, și de ce abordările tradiționale de conformitate nu mai sunt scalabile?

Oamenii vorbesc despre inteligența artificială la nivel de întreprindere și despre rentabilitatea sa ca și cum valoarea provine din simpla conectare a unui agent la fluxurile de lucru. În realitate, valoarea provine din conectarea acelui agent la o gamă largă de sisteme, astfel încât să poată sintetiza date și produce ieșiri pe care niciun om nu le-ar putea aduna în timpul respectiv. Accesul la date este adevăratul blocaj.

Prinsul este că același lucru care face ca un agent să fie valoros este și ceea ce îl face riscant. Cu cât se conectează mai multe sisteme, cu atât mai multe date încep să curgă dintr-o parte a organizației în alta, și fiecare dintre aceste fluxuri devine o oportunitate pentru datele să ajungă în locul greșit.

Fiecare dintre aceste fluxuri trebuie verificat: este această dată permisă să fie utilizată în acest mod, în acest scop, în conformitate cu legea privind confidențialitatea și propria noastră politică? Când există o mână de astfel de decizii în fiecare zi, o persoană poate lua manual fiecare decizie. Când există un agent AI care trimite mii de solicitări pe secundă, devine imposibil pentru oameni. Acesta este punctul în care conformitatea tradițională se prăbușește.

Pentru a se realiza valorile mari de evaluare ale companiilor mari de inteligență artificială, guvernanța trebuie să se mute în timp real, la viteza mașinilor, în momentul în care datele sunt accesate.

Ethyca lansează Astralis ca strat de guvernanță pentru inteligența artificială enterprise. Care sunt provocările specifice ale clienților care au condus la crearea platformei și de ce este momentul potrivit pentru a o introduce?

Munca de curățare a datelor pentru inteligența artificială încă se desfășoară în același mod în care se făcea pentru confidențialitate în 2016, cu oameni care completează chestionare și efectuează evaluări manual. Acest proces era deja prea lent pentru munca obișnuită de confidențialitate și, în fața volumului de cazuri de utilizare a inteligenței artificiale, nu are nicio șansă. Cea mai mare parte a ceea ce se vinde în prezent ca guvernanță a inteligenței artificiale este aceleași formulare și fluxuri de lucru cu o etichetă “AI” pe ele. Completarea unui formular nu este guvernanță. Ceea ce lipsește este software-ul care efectuează munca de guvernanță în sine, și nu produce o înregistrare a faptului că o persoană a făcut-o manual. Acesta este ceea ce am construit Astralis pentru a face.

Cererea la care răspundem vine de la echipe care au fost instruite să livreze inteligență artificială rapid și în siguranță, și în prezent nu pot face ambele lucruri. Agentele intră în producție mai repede decât orice echipă poate ține pasul, și întrebarea pe care regulatorii o pun a fost schimbată. Era vorba dacă aveau o politică. Acum este dacă pot demonstra că politica a fost urmată pentru un anumit fragment de date, pentru un anumit scop. Majoritatea companiilor pot răspunde bine la prima întrebare. Foarte puține pot răspunde la a doua.

Gartner estimează că o companie medie Fortune 500 ar putea rula 150.000 de agenți AI până în 2028, față de doar 15 în 2025. Cum ar trebui liderii enterprise să reconsidere guvernanța într-o lume în care agenții autonomi ar putea depăși numărul angajaților care interacționează cu datele?

Până în 2028, agenții care ating datele unei companii vor depăși numărul angajaților care o fac. Când actorii care utilizează datele dvs. sunt în mare majoritate mașini, cine este ținut responsabil? Vechiul model situează responsabilitatea în aprobarea finală a unui om, dar atunci când majoritatea deciziilor nu sunt luate și nici revizuite de un om, responsabilitatea trebuie să se mute de la oameni la sisteme.

Sistemul bancar a făcut această mișcare de mult timp. Nu ne încredem într-o bancă pentru că un casier numără banii cu mâna. Ne încredem în ea pentru că controlul este solid, și pentru că există oameni responsabili pentru a-i menține astfel. Guvernanța datelor trebuie să facă același lucru. Dovezile că o companie gestionează datele în mod responsabil încetează să mai fie că o persoană le-a revizuit, și devine că sistemul impune politica în mod automat la fiecare utilizare și poate furniza dovezi ale acestui fapt, astfel încât responsabilitatea este integrată. Acest lucru va permite liderilor de afaceri să se concentreze asupra a ceea ce sunt buni: aplicarea judecății, stabilirea regulilor și susținerea sistemului.

Astralis combină un model de reglementare lingvistică mare (LLRM) cu controlul accesului bazat pe scop (PBAC). Puteți explica cum lucrează împreună aceste două tehnologii pentru a asigura că sistemele de inteligență artificială înțeleg nu numai cine poate accesa datele, ci și de ce ar trebui să aibă acces la ele?

Controlul tradițional al accesului verifică cine sunteți și dacă identitatea dvs. vă permite să atingeți datele specifice.

Dar confidențialitatea este diferită; nu este o chestiune de a intra. O persoană poate fi perfect autorizată să acceseze un set de date și totuși să-l utilizeze pentru ceva pentru care nu a fost niciodată autorizată. Întrebarea care devine importantă este ce se folosesc datele și dacă acel scop este permis. Acesta este ceea ce răspunde și impune PBAC.

Partea grea este că scopul nu este un fapt tehnic pe care îl poți citi dintr-o bază de date. Depinde de ceea ce face afacerea dvs., de ce ați promis clienților și de ce permite legea. Acesta este scopul LLRM. Acesta învață cum funcționează afacerea dvs. specifică, apoi lucrează prin reglementările care se aplică acesteia. Rezultatul este o determinare clară a ceea ce poate și nu poate fi utilizat pentru fiecare tip de date. PBAC aplică apoi această determinare la punctul de acces. LLRM raționează, PBAC acționează.

Anunțul dvs. de lansare afirmă că evaluările cu IA pot fi reduse de la 40 la 60 de ore de muncă manuală la doar 20-40 de minute. Care sunt porțiunile procesului de guvernanță de astăzi care sunt cele mai ineficiente și unde creează automatizarea cele mai mari câștiguri?

Cele mai multe dintre aceste 40-60 de ore nu sunt cheltuite pentru nimic care necesită judecată umană. Sunt cheltuite pentru asamblare. Cineva cartografiază datele manual, le păstrează într-o foaie de calcul și apoi urmărește contextul în întreaga echipă. Până când toate acestea sunt adunate, evaluarea reală, partea care necesită ca o persoană să gândească, este o mică parte a muncii. Restul este un profesionist care acționează ca agent de colectare a informațiilor pe care afacerea le are deja, dar care sunt împrăștiate în întreaga echipă.

În mod frustrant, această muncă nu rămâne niciodată terminată. O evaluare este o imagine instantanee la un moment dat, dar cazurile de utilizare a IA nu încetează să apară. Altele noi apar constant și fiecare are nevoie de propria sa revizuire. Prin urmare, procesul manual nu este doar lent o dată, ci este permanent în urma ritmului la care dorește afacerea să se deplaseze și va deveni de nemanipulat pe măsură ce companiile

Câștigurile de eficiență provin din schimbarea modului în care lucrează oamenii. Sistemul extrage metadatele în mod automat, astfel încât nimeni nu trebuie să urmărească contextul manual. Acesta prezintă doar întrebările la care o persoană poate răspunde cu adevărat – apelurile reale de judecată – în loc să facă o persoană să treacă prin câmpuri pe care o mașină le poate completa. Și urma auditului se construiește singur pe măsură ce are loc evaluarea, în loc să o scrie cineva ulterior din memorie. Acesta este modul în care 40 de ore devin 40 de minute.

Una dintre afirmațiile mai izbitoare este că o instituție financiară majoră din SUA procesează aproximativ 6.000 de solicitări de guvernanță pe secundă prin Astralis. Ce vă învață funcționarea la această scară despre cerințele de infrastructură viitoare pentru IA întreprinderilor?

Lecția este că guvernanța nu poate fi un pas separat. La 6.000 de decizii pe secundă, aceasta trebuie să aibă loc în cadrul fluxului de date în sine, la aceeași viteză cu interogările și modelele pe care le guvernează. Pentru IA, guvernanța trebuie să fie infrastructură: întotdeauna activă și întotdeauna în linie, nu un raport produs pe lateral. Trebuie să fie rapidă, deoarece dacă guvernanța este lentă, devine lucrul pe care oamenii îl sar pentru a-și îndeplini termenul limită.

Reglementarea IA continuă să evolueze rapid atât în Statele Unite, cât și în Europa. Cum construiți o platformă de guvernanță care să poată adapta la cadrele legale în schimbare fără a forța întreprinderile să efectueze actualizări manuale de politică constante?

Greașeala pe care o fac majoritatea instrumentelor de conformitate este să încorporeze regulile în produs, astfel încât atunci când legea se schimbă, sunteți blocat așteptând ca furnizorul să reinginerizeze instrumentul. Astralis este construit să funcționeze în mod opus. La baza sa se află un limbaj comun pentru descrierea datelor și a utilizărilor acestora și nu conține nicio regulă. Regulile se află separat, într-un strat de politică deasupra. LLRM citește reglementarea, stabilește ce înseamnă aceasta pentru afacerea dvs. specifică și scrie politica în consecință. PBAC aplică apoi orice spune politica la momentul respectiv – astfel încât o schimbare a regulilor lasă mecanismul de aplicare complet neatins.

Când apare o nouă reglementare, toată energia unei companii poate fi canalizată pentru a stabili ce înseamnă aceasta pentru afacerea sa; niciuna dintre acestea nu merge în reingineria sistemelor de confidențialitate.

Mulți directori executivi se tem de agenții AI rătăciți care iau decizii neautorizate sau accesează informații sensibile. Cât de reală este această îngrijorare astăzi și ce măsuri practice ar trebui să implementeze organizațiile înainte de a utiliza agenți AI la scară largă?

Este complet realist și deja se întâmplă. California a amendat Disney cu 2,75 milioane de dolari pentru că sistemele sale nu puteau să impună în mod fiabil ceva atât de elementar ca renunțarea unui client. În sistemele sale, un consumator care a renunțat la un dispozitiv a rămas activat pe alte dispozitive, iar instrucțiunile de renunțare la nivel de browser nu au fost considerate cereri valabile. Acest incident nu a fost cauzat de un agent care acționează imprevizibil, ci a fost mai degrabă o lacună destul de simplă între ceea ce Disney le-a spus clienților și ceea ce sistemele sale erau capabile să impună.

Măsurile de protecție care previn realmente acest lucru sunt lipsite de strălucire: știți ce date dețineți și la ce v-ați angajat în legătură cu acestea și păstrați-le pe toate într-un singur loc, deoarece majoritatea acestor eșecuri provin din faptul că promisiunea unei echipe nu ajunge niciodată la baza de date a altei echipe.

Privind înainte trei până la cinci ani, ce credeți că va distinge întreprinderile care reușesc să operaționalizeze inteligența artificială de cele ale căror inițiative de inteligență artificială rămân blocate în proiecte-pilot, și ce rol va juca guvernanța în crearea acestui avantaj competitiv?

Diferența va consta în faptul că o companie are un sistem pentru a guverna toate datele sale sau alege să lipească guvernanța de fiecare bază de date și echipă în mod separat. Companiile care încă guvernează datele lor departament după departament vor continua să se lovescă de ziduri, deoarece inteligența artificială se întinde peste departamente prin design. Fiecare întreprindere este sfătuită să lanseze inteligența artificială rapid și să nu se încheie într-o scrisoare a regulatorului, și până acum acestea două s-au împotrivit una alteia. Cineva care rezolvă ambele, în loc să se mulțumească cu una, va câștiga deceniul.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe trebuie să viziteze Ethyca sau Astralis.