J. Paul Haynes, CEO al Cinchy – Seria de interviuri

J. Paul Haynes, CEO al Cinchy, este un expert în securitate cibernetică și tehnologie, cu zeci de ani de experiență în construirea și dezvoltarea companiilor de securitate la nivel enterprise. El este cel mai bine cunoscut pentru leadershipul său la eSentire, unde a ajutat compania să devină un important furnizor de servicii de detectare și răspuns la amenințări, și aduce o experiență solidă în inginerie, securitate cibernetică, creștere sprijinită de capital privat și risc la nivel enterprise, la Cinchy, în timp ce compania se concentrează pe adoptarea și guvernanța încrezătoare a inteligenței artificiale.

Cinchy este o companie de guvernanță a inteligenței artificiale și colaborare a datelor la nivel enterprise, axată pe ajutarea organizațiilor să conecteze în siguranță inteligența artificială, sistemele și datele. Platforma PeriMind acționează ca un plan de control pentru acțiunile inteligenței artificiale, oferind întreprinderilor vizibilitate, aplicare a politicilor, securitate și auditabilitate asupra modului în care agenții inteligenței artificiale interacționează cu sistemele de afaceri, în timp ce platforma de colaborare a datelor ajută echipele să gestioneze și să partajeze date guvernate în întreaga organizație, fără a se baza pe integrări complexe sau silozuri de date duplicative.

Ați petrecut peste 15 ani ajutând la construirea și dezvoltarea eSentire într-una dintre cele mai recunoscute companii din industria securității cibernetice. Care sunt lecțiile din această călătorie pe care le aduceți în noul dvs. rol de CEO al Cinchy, și de ce ați crezut că acum este momentul potrivit pentru a vă concentra pe guvernanța inteligenței artificiale și adoptarea încrezătoare a inteligenței artificiale?

Una dintre cele mai importante lecții pe care le-am învățat la eSentire este că organizațiile nu se confruntă cu dificultăți din cauza lipsei tehnologiei. Ele se confruntă cu dificultăți din cauza faptului că tehnologiile emergente creează complexitate operațională mai rapid decât majoritatea companiilor pot gestiona singure. Văd inteligența artificială urmând un drum foarte asemănător.

Provocarea de astăzi nu constă în a-i determina pe angajați să experimenteze cu inteligența artificială. Majoritatea organizațiilor fac deja acest lucru. Adevărata provocare constă în a muta inteligența artificială în producție, unde deciziile afectează clienții, rezultatele financiare, conformitatea cu reglementările și operațiunile de afaceri.

Industriile puternic reglementate, cum ar fi serviciile financiare, ilustrează perfect acest lucru. Ele nu se mișcă încet pentru că nu înțeleg inteligența artificială. Se mișcă cu prudență pentru că încă nu pot încredința inteligenței artificiale lucrări critice pentru misiune. Înainte ca un sistem de inteligență artificială să poată lua decizii, organizațiile au nevoie de răspunsuri la întrebări fundamentale: cine a aprobat aceste decizii? Cum sunt monitorizate? Când intervine un om? Ce se întâmplă dacă modelul se abate, eșuează sau devine indisponibil?

Aceste întrebări îmi amintesc de unde se afla securitatea cibernetică acum cincisprezece ani. Securitatea a evoluat de la a fi o problemă de tehnologie la a fi o disciplină operațională. Cred că guvernanța inteligenței artificiale se află pe aceeași traiectorie.

De aceea am aderat la Cinchy. Noi credem că adoptarea încrezătoare a inteligenței artificiale (nu experimentarea cu inteligența artificială) va defini următorul deceniu, și vedem guvernanța inteligenței artificiale devenind la fel de importantă ca și guvernanța securității cibernetice.

Multe întreprinderi au experimentat cu inteligența artificială generativă în ultimii doi ani, dar relativ puține au reușit să implementeze cu succes inteligența artificială în fluxurile de lucru critice pentru misiune. Care sunt cele mai mari bariere care împiedică organizațiile să treacă de la proiecte-pilot la producție?

Nu cred că companiile se confruntă cu dificultăți din cauza faptului că tehnologia nu este suficient de bună. Cred că se confruntă cu dificultăți pentru că riscurile devin mult mai mari odată ce inteligența artificială trece dincolo de experimentare.

Un proiect-pilot este una, dar a pune inteligența artificială în producție este cu totul altceva. Acum se accesează datele enterprise, se interacționează cu sistemele de afaceri, poate chiar se iau decizii în numele angajaților. Acesta este momentul în care conducerea se întreabă în mod justificat: “Cum controlăm acest lucru? Cum îl monitorizăm? Și cum știm când trebuie să intervenim?”

Acestea nu sunt motive pentru a încetini adoptarea inteligenței artificiale. Sunt lucrurile care fac adoptarea inteligenței artificiale posibilă. Dacă puteți răspunde cu încredere la aceste întrebări, organizațiile se mișcă mult mai repede.

Ați petrecut o mare parte a carierei dvs. asigurând securitatea mediilor enterprise împotriva amenințărilor cibernetice. Cum diferă securizarea unei organizații bazate pe inteligență artificială de securizarea unei mediului IT tradiționale?

Securitatea cibernetică tradițională se concentrează pe protejarea punctelor finale, identităților, rețelelor și mediilor cloud. Inteligența artificială adaugă o nouă suprafață de atac permanentă pentru întreprindere. Fiecare sistem de inteligență artificială introduce noi riscuri. Accesul la model, injecția de prompturi, permisiunile excesive, abaterea modelului, luarea deciziilor autonome și noi căi de atac care nu au existat niciodată înainte.

Punctul important este că securitatea inteligenței artificiale nu este separată de securitatea cibernetică. O extinde. Organizațiile au nevoie de toate controalele de securitate existente, dar acum au nevoie și de securitate proiectată în mod special pentru sistemele de inteligență artificială care funcționează în producție.

“Inteligența artificială din umbră” a devenit o preocupare pentru echipele de securitate, dar acum vedem apariția “inteligenței artificiale din umbră”. Cât de semnificativă este această provocare și care sunt riscurile pe care organizațiile le subestimează?

Inteligența artificială din umbră devine una dintre cele mai rapide riscuri de afaceri, deoarece echipele executive încurajează adoptarea rapidă a inteligenței artificiale fără a pune întotdeauna guvernanța pe primul loc. Majoritatea angajaților nu acționează cu rea-voință. Ei încearcă să fie mai productivi. Problema este că sistemele de inteligență artificială moștenesc permisiunile pe care utilizatorii le au deja.

Un director care experimentează cu un model de inteligență artificială publică poate expune involuntar date financiare confidențiale, informații despre clienți sau proprietate intelectuală, pur și simplu prin cererea de a analiza inteligența artificială.

De aceea, organizațiile au nevoie de vizibilitate, controale de politică și guvernanță, nu pentru a încetini adoptarea inteligenței artificiale, ci pentru a o face suficient de sigură pentru a o scala.

Agenții de inteligență artificială primesc din ce în ce mai mult acces la sistemele enterprise, date și procese de luare a deciziilor. Care sunt noile provocări de guvernanță și răspundere care apar atunci când sistemele de inteligență artificială pot acționa autonom, și nu doar genera conținut?

Agenții de inteligență artificială schimbă fundamental discuția despre guvernanță, deoarece nu mai generează conținut. Ei iau acțiuni. Atunci când un sistem autonom poate aproba tranzacții, accesa sisteme enterprise sau lua decizii de afaceri, organizațiile au nevoie de răspundere completă.

Fiecare acțiune ar trebui să răspundă la întrebări simple:

• Ce s-a întâmplat?
• De ce s-a întâmplat?
• Care agent de inteligență artificială a luat decizia?
• Cine a autorizat-o?
• Când ar trebui să intervină un om?

Aceste principii nu sunt noi. Industriile au trăit cu cerințe de răspundere de zeci de ani, sub reglementări precum Sarbanes-Oxley. Inteligența artificială extinde aceste așteptări la lucrători digitali autonomi.

Multe organizații se grăbesc să implementeze inteligența artificială din cauza presiunii competitive. Cum pot liderii de afaceri să echilibreze nevoia de viteză cu nevoia de guvernanță, conformitate și gestionare a riscurilor?

Guvernanța nu ar trebui să încetinească adoptarea inteligenței artificiale. Ar trebui să o accelereze. Organizațiile se mișcă mai repede atunci când conducerea are încredere în mediul pe care îl construiește. Acest lucru înseamnă stabilirea unei arhitecturi de inteligență artificială sigure și monitorizabile, evaluarea continuă a modelelor pentru abatere și performanță, gestionarea accesului la sistemele enterprise și având controale operaționale clare înainte ca inteligența artificială să ajungă în producție.

La fel cum organizațiile au adoptat detectarea și răspunsul gestionat pentru a simplifica securitatea cibernetică, cred că multe vor adopta guvernanța inteligenței artificiale gestionate pentru a obține expertiză fără a trebui să construiască echipe specializate mari în interior.

Consiliile de administrație devin din ce în ce mai implicate în supravegherea inteligenței artificiale. Care sunt întrebările pe care membrii consiliului de administrație ar trebui să le adreseze echipelor de management despre strategia, guvernanța și răspunderea inteligenței artificiale?

Consiliile de administrație ar trebui să adreseze o întrebare fundamentală: poate echipa de management să demonstreze că inteligența artificială funcționează sub același nivel de guvernanță ca și orice alt sistem de afaceri critic?

Acest lucru înseamnă a înțelege unde se utilizează inteligența artificială, cine deține controlul, cum se monitorizează deciziile, cum se gestionează riscul și cum ar continua să funcționeze organizația dacă un serviciu de inteligență artificială ar deveni indisponibil. Organizațiile care reușesc nu vor fi neapărat cele care adoptă inteligența artificială cel mai rapid. Vor fi cele care construiesc disciplina operațională pentru a încredința inteligența artificială la scară largă.

Industria securității cibernetice a petrecut decenii dezvoltând cadre, controale și cele mai bune practici. Există lecții din securitatea cibernetică care pot fi aplicate direct guvernanței inteligenței artificiale, sau inteligența artificială necesită o abordare complet nouă?

Securitatea cibernetică oferă un model excelent pentru guvernanța inteligenței artificiale. Managementul identității, principiul privilegiului minim, monitorizarea continuă, urmele de audit, răspunsul la incidente și reziliența rămân esențiale. Ceea ce este nou este că inteligența artificială introduce provocări pe care sistemele tradiționale nu le-au avut niciodată, cum ar fi abaterea modelului, halucinațiile, manipularea prompturilor și dependența de modelele de fundal de la terți. Deci, inteligența artificială nu înlocuiește securitatea cibernetică. O extinde cu un strat suplimentar de guvernanță.

Ce înseamnă de fapt “adoptarea încrezătoare a inteligenței artificiale” în practică? Există principii de guvernanță sau garanții operaționale specifice pe care fiecare întreprindere ar trebui să le aibă înainte de a scala inițiativele de inteligență artificială?

Tind să mă gândesc la acest lucru în același mod în care ne-am gândit la securitatea cibernetică în urmă cu ani. Nimeni nu se întreba dacă securitatea crea valoare. Întrebarea era dacă puteți încredința mediul suficient de mult pentru a menține afacerea în funcțiune.

Inteligența artificială se îndreaptă exact în aceeași direcție. Dacă nu puteți vedea ce face, nu puteți controla la ce are acces sau nu puteți înțelege de ce ia anumite decizii, probabil nu o veți lăsa să gestioneze nimic important.

Odată ce aveți această încredere, adoptarea are loc în mod natural. Organizațiile încetează să trateze inteligența artificială ca un experiment interesant și încep să o trateze ca pe o parte a afacerii.

Privind în următorii trei până la cinci ani, cum vedeți evoluția relației dintre guvernanța inteligenței artificiale și avantajul competitiv?

În următorii trei până la cinci ani, o guvernanță puternică a inteligenței artificiale nu va fi un diferențiator competitiv. Va deveni o cerință de afaceri. Organizațiile care stabilesc guvernanță devreme vor adopta inteligența artificială mai repede, deoarece vor avea încrederea de a muta sarcini de lucru critice în producție. Cei care nu o vor face vor rămâne blocați în experimentare, în timp ce competitorii vor realiza câștiguri măsurabile în productivitate, inovație și experiență a clienților. În cele din urmă, guvernanța nu va încetini adoptarea inteligenței artificiale. Va fi motivul pentru care organizațiile vor putea încredința inteligența artificială suficient de mult pentru a o adopta pe deplin.

Mulțumim pentru acest interviu minunat. Citiitorii care doresc să afle mai multe despre Cinchy ar trebui să viziteze Cinchy.