Lideri de opinie
De ce ar trebui companiile să adopte o guvernanță a IA bazată pe valori

Puncte cheieUn cadru de guvernanță a IA bazat pe valori permite companiilor să opereze la nivel…
Vezi mai mult
- Un cadru de guvernanță a IA bazat pe valori permite companiilor să opereze la nivel global fără a reconstrui sistemele pentru fiecare jurisdicție.
- Adoptarea a șase valori cheie, precum responsabilitatea și echitatea, construiește încrederea publică și îndeplinește cele mai înalte standarde etice.
- O guvernanță robustă a IA creează valoare de afaceri prin permiterea intrării mai rapide pe piață și reducerea riscurilor în mai multe regiuni.
În septembrie 2025, toate statele membre ale Organizației Națiunilor Unite s-au reunit pentru prima dată pentru a discuta guvernanța internațională a inteligenței artificiale. Multe dintre ele au fost reprezentate din nou în februarie, la AI Impact Summit din Delhi. Evenimentul a dus la înființarea a două noi organisme axate pe guvernanța IA, dar a fost, în cel mai bun caz, un succes simbolic.
Noile mecanisme ale ONU au fost concepute pentru a obține consensul: evită domeniile controversate, precum utilizările militare ale IA, și nu dispun de surse clare de finanțare sau de prerogative pentru impunerea respectării deciziilor. Acest lucru nu ar trebui să îi surprindă pe observatorii cu experiență. ONU de astăzi nu are capacitatea de a acționa rapid sau de a asigura respectarea universală a deciziilor sale, ceea ce o face un forum în care schimbările reale sunt greu de obținut.
Situația se înscrie într-un tipar bine cunoscut. În pofida anilor de încercări disparate de a construi un consens privind reglementarea IA, nu s-au încheiat acorduri internaționale semnificative. S-a creat astfel un vid în care țările și blocurile de state au fost nevoite să își elaboreze propriile reguli. Totuși, guvernanța eficientă a IA este esențială dacă dorim ca aceasta să fie adoptată pe scară largă, să se bucure de încrederea publicului și să fie utilizată astfel încât să aducă beneficii sociale și economice durabile
Soluții de compromis și ajustări din mers
Pentru companiile globale care dezvoltă și operează sisteme de IA, lipsa unor mecanisme de guvernanță comune și convenite este problematică. Ele vor să implementeze sisteme de IA în întreaga lume, însă nu există două jurisdicții care să respecte exact același set de reguli. Prin urmare, sunt nevoite să creeze un cadru general de guvernanță pentru sistemul lor și apoi să îl reconstruiască de la zero în fiecare țară în care activează, pentru a asigura respectarea legilor și reglementărilor locale. Această abordare generează un volum enorm de muncă suplimentară, face inițiativele de IA mai costisitoare și mai expuse întârzierilor și reduce capacitatea firmelor globale de a obține economii de scară și de a oferi instrumente eficiente utilizatorilor de pretutindeni.
Există însă o alternativă. Pentru firmele care doresc să își simplifice abordarea, cea mai bună opțiune ar putea fi un cadru de guvernanță a IA care ține seama de principiile etice comune acestor regiuni diferite și asigură pretutindeni standarde ridicate de protecție a libertății, vieții private și securității persoanelor. Aceasta este o modalitate eficientă prin care companiile de IA pot spori încrederea publicului în tehnologia lor, își pot consolida baza de clienți și pot valorifica beneficiile potențiale ale IA pentru societate.
Șase valori esențiale pentru guvernanța IA
Oricărei organizații interesate de o abordare a guvernanței IA bazată pe valori i-aș sugera să utilizeze cele șase valori esențiale pe care le urmăm noi: răspunderea, explicabilitatea, transparența, echitatea, securitatea și posibilitatea contestării deciziilor.
Am ales aceste valori deoarece acoperă toate domeniile importante ale ciclului de viață al unui sistem de IA și au fost deja codificate în diverse standarde internaționale și naționale privind IA, precum standardul Organizației Internaționale de Standardizare ISO/IEC 42001 și ghidul privind inteligența artificială pentru guvernul britanic.
Pentru început, răspunderea înseamnă să știm cine este responsabil și pentru ce, în fiecare etapă a ciclului de viață al IA. Fără o atribuire clară a responsabilităților, controale esențiale pot fi omise deoarece nicio persoană sau echipă nu poartă răspunderea finală. Organizațiile ar trebui să desemneze nominal persoane cu funcții de conducere, precum directorul pentru IA, responsabile pentru sistemele de IA și etapele esențiale. Ele ar trebui să utilizeze un model de guvernanță bazat pe riscuri și să examineze instrumentele terților la fel de atent ca pe cele dezvoltate intern. Aceasta înseamnă să înțeleagă condițiile furnizorilor, limitările și răspunderea juridică a acestora la fel de bine cum își înțeleg propriile sisteme.
Organizația pentru Cooperare și Dezvoltare Economică, OCDE, exprimă bine această idee în orientările sale privind consolidarea răspunderii în domeniul IA, care recomandă organizațiilor să creeze „mecanisme pentru integrarea procesului de gestionare a riscurilor asociate IA în guvernanța organizațională mai largă, promovând o cultură a gestionării riscurilor atât în interiorul organizațiilor, cât și de-a lungul întregului lanț valoric al IA”.
Urmează explicabilitatea. Organizațiile ar trebui să poată arăta cum ajunge un sistem de IA la o decizie. Pentru aceasta sunt necesare mecanisme de documentare și urmărire a procesului decizional, precum și evidențe clare privind proiectarea sistemului, datele de antrenare și procesele de decizie. Împreună, acestea permit echipelor să înțeleagă proveniența și traseul informațiilor, de la conceperea sistemului până la implementarea lui.
Echitatea urmărește să asigure rezultate echitabile și să împiedice sistemele de IA să reproducă sau să amplifice distorsiunile existente. În lipsa unor verificări deliberate, sistemele pot provoca prejudicii prin rezultate părtinitoare, mai ales în domenii cu impact ridicat, precum recrutarea, asistența medicală și justiția penală. Pentru a reduce aceste riscuri, organizațiile ar trebui să introducă măsuri de detectare a distorsiunilor, să verifice periodic rezultatele pentru grupurile relevante și să conceapă cadre de guvernanță care să țină seama de cerințele locale privind nediscriminarea. În practică, aceasta înseamnă sisteme concepute să îndeplinească cele mai exigente cerințe juridice pe care probabil le vor întâlni, inclusiv obligațiile prevăzute de legi precum Equality Act 2010 din Regatul Unit și Carta drepturilor fundamentale a UE.
Transparența înseamnă claritate atât pentru utilizatori, cât și pentru autoritățile de reglementare. Oamenii ar trebui să înțeleagă când se utilizează IA, ce rol joacă în luarea deciziilor și pe ce date se bazează. Un punct de plecare practic este standardizarea documentației sistemelor de IA, cu sprijinul unor instrumente interne precum fișele modelelor: documente scurte care însoțesc modelele de învățare automată și explică contextul utilizării preconizate, detaliile procedurilor de evaluare a performanței și alte informații relevante. Fără transparență, utilizatorii nu pot contesta rezultate inechitabile, autoritățile nu pot interveni eficient, iar efectele nocive pot fi ascunse.
Securitatea presupune protejarea sistemelor de IA împotriva accesului neautorizat, manipulării și comportamentului neintenționat. O securitate slabă poate pune în pericol organizațiile, utilizatorii și datele lor, expunându-i unor prejudicii financiare și de reputație. Organizațiile ar trebui să stabilească praguri de performanță și acuratețe, să supună sistemele unor teste de stres în condiții realiste și să includă teste de securitate de tip red team pentru identificarea vulnerabilităților.
În cele din urmă, posibilitatea contestării asigură o cale clară și accesibilă de a contesta sau de a face apel împotriva deciziilor bazate pe IA. Fără aceasta, utilizatorii afectați nu au nicio cale de remediere, iar problemele ar putea să nu fie niciodată semnalate sau rezolvate. Organizațiile ar trebui să ofere canale de raportare chiar acolo unde sunt utilizate sistemele, să desemneze persoane cu funcții de conducere care să gestioneze reclamațiile și să se asigure că sistemele pot fi suspendate temporar, revizuite sau actualizate atunci când este necesar.
Care sunt beneficiile unui cadru bazat pe valori?
Există două motive puternice pentru adoptarea acestei abordări a guvernanței IA bazate pe valori. În primul rând, cei care dezvoltă și implementează sisteme de IA au o responsabilitate etică față de persoanele și organizațiile afectate de acestea. În al doilea rând, este o modalitate mai eficientă de a obține în practică beneficiile promise ale IA.
Utilizatorii sistemelor de IA, atât companii, cât și persoane fizice, au încredere implicită că dezvoltatorii nu vor folosi abuziv datele personale și nu îi vor expune unor riscuri inutile. Atunci când organizațiile încalcă această încredere, le este foarte greu să păstreze utilizatorii. În cele din urmă, oamenii nu vor accepta introducerea sistemelor decât dacă sunt îndeplinite ambele condiții: au încredere în ele și le văd beneficiile clare. În caz contrar, diviziunile sociale și economice se vor adânci, iar multe dintre oportunitățile oferite de această tehnologie vor fi pierdute.
Pe de altă parte, companiile care aplică pretutindeni un cadru bazat pe valori, inclusiv în regiunile cu cerințe de guvernanță mai relaxate, pot demonstra clienților, investitorilor și autorităților de reglementare că își impun standarde mai înalte decât cele cerute de simpla conformitate. Aceasta consolidează încrederea, implicarea și, în cele din urmă, succesul comercial.
O guvernanță solidă a IA creează valoare, în loc să fie o povară de conformitate. Ea permite companiilor să lanseze mai rapid produse noi, să își reducă expunerea la riscuri și să își extindă cu încredere soluțiile pe mai multe piețe.
Raportul McKinsey „Starea IA” a constatat că „supravegherea guvernanței IA de către directorul general… este unul dintre factorii cu cea mai puternică corelație cu un impact mai mare asupra profitului net, raportat de organizația însăși, ca urmare a utilizării IA generative”, ceea ce subliniază beneficiile comerciale ale unei asemenea abordări. În acest sens, integrarea unor cadre etice solide în sistemele de IA reprezintă o formă de interes propriu luminat.
Dincolo de toate acestea, este pur și simplu ceea ce trebuie făcut. Ne-am construit politica globală de IA etică în jurul aceluiași principiu: tehnologiile avansate trebuie să servească oamenii și societatea, nu invers. Aceasta reflectă viziunea mai amplă a Societății 5.0, un model de inovare centrat pe om, care urmărește să îmbine progresul economic cu rezolvarea provocărilor sociale.
Pentru ca tehnologiile emergente, precum IA, să contribuie la o societate mai fericită și mai armonioasă, ele trebuie să se bazeze pe fundamente etice solide. Primul pas este să ne concentrăm nu doar asupra standardelor pe care organizațiile sunt obligate să le îndeplinească, ci și asupra celor pe care ar dori să le atingă.












