De ce companiile ar trebui să urmeze o abordare bazată pe valori pentru guvernanța IA

În septembrie 2025, pentru prima dată, toate statele membre ale Organizației Națiunilor Unite s-au reunit pentru a discuta guvernanța internațională a IA; mulți au fost reprezentați din nou în februarie la Summitul Impactului IA de la Delhi. Evenimentul a condus la lansarea a două noi organisme centrate pe guvernanța IA; dar a fost, în cel mai bun caz, un succes simbolic.

Mecanismele noi ale ONU au fost concepute pentru a asigura consensul: ele evită zonele controversate, cum ar fi utilizările militare ale IA, și lipsesc surse clare de finanțare și puteri de aplicare. Acest lucru nu ar trebui să surprindă pe observatorii experimentați. ONU de astăzi lipsește capacitatea de a se mișca rapid sau de a asigura respectarea universală a deciziilor sale, făcându-l un forum dificil în care să se producă schimbări reale.

Acest lucru se potrivește unui model bine stabilit. În ciuda anilor de încercări dispersate de a construi consens cu privire la reglementările IA, nu au existat acorduri internaționale semnificative, creând un vid în care țările și blocurile individuale au fost obligate să-și dezvolte propriile reguli. Cu toate acestea, guvernanța eficientă a IA este crucială dacă dorim să o vedem adoptată pe scară largă, încrederea publicului și utilizată în moduri care să aducă beneficii sociale și economice durabile.

Fă și repară

Pentru companiile globale care construiesc și operează sisteme IA, lipsa mecanismelor de guvernanță comune și convenite este problematică. Ei doresc să implementeze sisteme IA în întreaga lume, dar niciun stat nu respectă același set de reguli. Prin urmare, ei sunt obligați să creeze un cadru generic de guvernanță în jurul sistemului lor, apoi să-l reconstruiască de la zero în fiecare țară în care operează pentru a se asigura că respectă legile și reglementările locale. Acestă abordare creează o cantitate enormă de muncă suplimentară, face inițiativele IA mai costisitoare și mai predispuse la întârzieri și slăbește capacitatea firmelor globale de a-și realiza economiile de scară și de a partaja instrumente eficiente cu utilizatorii de pretutindeni.

Există, cu toate acestea, o alternativă. Pentru firmele care doresc să-și simplifice abordarea, cea mai bună opțiune poate fi să construiască un cadru de guvernanță IA care să țină cont de principiile etice comune din diferite regiuni, asigurându-se că acestea respectă standarde ridicate în toate privințele, protejând libertatea, confidențialitatea și securitatea individului. Această tehnică reprezintă o modalitate puternică pentru companiile IA de a crește încrederea publicului în tehnologia lor, de a-și consolida baza de clienți și de a valorifica beneficiile potențiale ale IA pentru societate.

Șase valori cheie pentru guvernanța IA

Pentru orice organizație interesată să adopte o abordare bazată pe valori pentru guvernanța IA, aș sugera utilizarea celor șase valori pe care le urmăm: răspundere, explicabilitate, transparență, echitate, securitate și contestabilitate.

Am ales aceste valori deoarece ele acoperă toate domeniile majore ale ciclului de viață al sistemului IA și deoarece au fost deja codificate în diferite standarde internaționale și naționale referitoare la IA, cum ar fi ISO/IEC 42001 și Cartea de joc pentru inteligența artificială a guvernului britanic.

Pentru a începe, răspunderea înseamnă a ști cine este responsabil pentru ce la fiecare etapă a ciclului de viață al IA. Fără o proprietate clară, controalele vitale pot fi omise, deoarece nicio persoană sau echipă nu deține responsabilitatea finală. Organizațiile ar trebui să numească proprietari seniori și numiți – cum ar fi ofițerul lor de inteligență artificială – pentru sistemele IA și etapele cheie și să utilizeze un model de guvernanță bazat pe risc, aplicând aceeași atenție instrumentelor terțe, precum și celor dezvoltate în interior. Acest lucru înseamnă a înțelege termenii furnizorilor, limitările și răspunderile la fel de bine cum înțeleg sistemele lor.

Organizația pentru Cooperare și Dezvoltare Economică (OCDE) surprinde acest lucru bine în ghidul său privind promovarea răspunderii în IA, care recomandă organizațiilor să creeze „mecanisme pentru a încorpora procesul de gestionare a riscurilor IA în guvernanța organizațională mai largă, promovând o cultură de gestionare a riscurilor atât în cadrul organizațiilor, cât și pe întregul lanț de valori al IA”.

Următoarea este explicabilitatea. Organizațiile ar trebui să poată arăta cum ajunge un sistem IA la o decizie. Acest lucru necesită mecanisme pentru a documenta și urmări procesul de luare a deciziilor, alături de înregistrări clare ale proiectării sistemului, datelor de antrenament și proceselor de decizie. Împreună, aceasta permite echipelor să înțeleagă linia de proveniență a informațiilor de la crearea sistemului până la implementare.

Echitatea se concentrează pe asigurarea faptului că sistemele IA produc rezultate echitabile și nu reproduc sau amplifică prejudecățile existente. Fără verificări deliberate, sistemele pot cauza prejudicii prin furnizarea de rezultate înclinate – o problemă particulară în domenii cu impact ridicat, cum ar fi recrutarea, sănătatea și justiția penală. Pentru a mitigă aceasta, organizațiile ar trebui să implementeze măsuri de detectare a prejudecăților, să revizuiască rezultatele regulate în cadrul grupurilor relevante și să proiecteze cadre de guvernanță care pot să țină cont de cerințele locale de nediscriminare. În practică, acest lucru înseamnă construirea de sisteme care să îndeplinească cel mai înalt standard juridic pe care sunt susceptibile să-l întâlnească, inclusiv obligațiile prevăzute de legi, cum ar fi Legea egalității din 2010 din Regatul Unit și Carta drepturilor fundamentale a UE.

Transparența se referă la furnizarea de claritate atât utilizatorilor, cât și regulatorilor. Oamenii ar trebui să înțeleagă când se utilizează IA, ce rol joacă în procesul de luare a deciziilor și ce date stau la baza acestuia. Un punct de plecare practic este standardizarea documentației pentru sistemele IA, sprijinită de instrumente interne, cum ar fi fișele modelului: documente scurte furnizate împreună cu modelele de învățare automată care explică contextul în care se intenționează să se utilizeze modelele, detalii despre procedurile de evaluare a performanței și alte informații relevante. Fără transparență, utilizatorii nu pot contesta rezultatele injuste, regulatorii nu pot interveni eficient, iar impactul dăunător poate fi ascuns sub preș.

Securitatea implică protejarea sistemelor IA împotriva accesului neautorizat, manipulării sau comportamentului neintenționat. Dacă securitatea este slabă, sistemele IA pot pune organizațiile, utilizatorii și datele lor în pericol, expunându-le la daune financiare și de reputație. Organizațiile ar trebui să definească praguri de performanță și acuratețe, să testeze sistemele în condiții realiste și să incorporeze testarea de echipă roșie pentru a identifica vulnerabilitățile.

În final, contestabilitatea asigură faptul că oamenii au o cale clară și accesibilă de a contesta sau de a face apel împotriva deciziilor luate de IA. Fără aceasta, utilizatorii afectați nu au nicio posibilitate de recurs și problemele pot să nu fie niciodată aduse la suprafață sau rezolvate. Organizațiile ar trebui să ofere canale de raportare la punctul de utilizare, să numească proprietari seniori pentru a gestiona plângerile și să se asigure că sistemele pot fi oprite, revizuite sau actualizate după cum este necesar.

Care sunt beneficiile unui cadru bazat pe valori?

Există două motive puternice pentru adoptarea acestei abordări bazate pe valori pentru guvernanța IA. În primul rând, pentru că cei care construiesc și implementează sisteme IA au o responsabilitate etică față de oamenii și organizațiile afectate de acestea; și, în al doilea rând, pentru că aceasta este o modalitate mai eficientă de a valorifica beneficiile promise de IA în practică.

Utilizatorii sistemelor IA, atât corporativi, cât și individuali, acordă încredere implicită creatorilor lor să nu utilizeze datele personale în mod abuziv sau să nu-i expună la riscuri inutile. Atunci când organizațiile încalcă această încredere, devine foarte dificil pentru ele să-și păstreze utilizatorii. În cele din urmă, dacă oamenii nu au încredere în sistemele IA sau nu pot vedea beneficiile clare pe care le aduc, nu vor accepta introducerea lor. Acest lucru va duce la mai multă diviziune socială și economică, iar vom pierde multe oportunități oferite de această tehnologie.

Pe de altă parte, companiile care aplică un cadru bazat pe valori în toate domeniile, inclusiv în regiunile cu cerințe de guvernanță mai relaxate, pot demonstra clienților, investitorilor și regulatorilor că se țin de un standard mai înalt decât cel impus de conformitatea de bază. Acest lucru construiește încredere, implicare și, în cele din urmă, succesul afacerilor.

O guvernanță puternică a IA este un creator de valoare, nu o povară a conformității. Ea permite companiilor să aducă noi produse pe piață mai repede, să-și reducă expunerea la risc și să-și extindă soluțiile pe multiple piețe cu încredere.

Raportul „Starea IA” al McKinsey a constatat că „supravegherea CEO-ului asupra guvernanței IA … este un element cel mai corelat cu impactul mai mare al veniturilor raportate de o organizație care utilizează IA”, subliniind beneficiile comerciale ale unei astfel de abordări. În acest sens, construirea unor cadre etice puternice în sistemele IA reprezintă un interes bine înțeles.

Dincolo de toate acestea, însă, este pur și simplu corect să facem acest lucru. Am construit politica noastră globală de etică IA în jurul aceluiași principiu: tehnologiile avansate trebuie să servească oamenilor și societății, nu invers. Acest lucru reflectă viziunea mai largă a Societății 5.0: un model de inovare centrat pe om care își propune să combine progresul economic cu rezolvarea provocărilor sociale.

Dacă tehnologiile emergente, cum ar fi IA, vor contribui la o societate mai fericită și mai armonioasă, ele trebuie să fie construite pe fundații etice solide. Acest lucru începe cu concentrarea nu numai asupra standardelor pe care organizațiile sunt obligate să le respecte, ci și asupra standardelor pe care și le doresc să le atingă.