Interviuri

Stavros Gadinis, profesor la Berkeley Law și autorul volumului Ordonarea corporativă – Seria de interviuri

Antoine Tardif
Adaugă Unite.AI la sursele tale preferate pe Google
Stavros Gadinis, George R. Johnson Professor of Law at UC Berkeley School of Law
Puncte cheieComandarea corporativă descrie modul în care firmele își scriu regulile și se…
Vezi mai mult
  • Comandarea corporativă descrie modul în care firmele își scriu regulile și se monitorizează singure înainte ca autoritățile de reglementare să acționeze.
  • Evaluările siguranței IA nu au independență atunci când conducerea angajează și poate concedia propriii evaluatori externi.
  • Un cadru de siguranță care nu a întârziat niciodată o lansare este imposibil de distins de relațiile publice.

Stavros Gadinis este profesorul George R. Johnson de drept la Facultatea de Drept a UC Berkeley. Cercetările sale examinează guvernanța corporativă, reglementarea financiară și sistemele interne pe care le folosesc companiile pentru a lua decizii și a monitoriza aplicarea acestora. Înainte de a intra în mediul academic, a practicat dreptul societar în Europa.

Noua sa carte, Ordonarea corporativă: cum gestionează corporațiile conflictele sociale, publicată de Cambridge University Press, analizează modul în care companiile își dezvoltă sisteme de guvernanță atunci când regulile publice nu sunt încă stabilite. Prin studii de caz privind serviciile de transport la cerere, sustenabilitatea climatică și inteligența artificială, cartea analizează cum stabilesc companiile reguli, își exercită autoritatea și își supraveghează propriul comportament.

Cariera dumneavoastră cuprinde atât practica dreptului societar în Europa, cât și cercetarea în domeniul guvernanței corporative și al reglementării financiare la Berkeley Law. Cum v-a influențat acest parcurs modul de gândire și ce v-a inspirat să scrieți Ordonarea corporativă?

Mi-am început cariera practicând dreptul societar în Europa, apoi am petrecut mulți ani la Berkeley studiind guvernanța corporativă și reglementarea financiară, inclusiv modul în care regulile se răspândesc dincolo de granițe atunci când niciun guvern nu deține singur controlul. Avem tendința să considerăm lumea afacerilor și lumea reglementării drept opuse: una dornică de decizii rapide și profituri mari, cealaltă dedicată procedurilor birocratice și binelui public. Practica și cercetarea m-au învățat că granița dintre ele este mult mai neclară.

Cartea a luat naștere din discuțiile cu consilieri juridici generali și directori executivi despre felul în care gestionează deciziile controversate, cele în privința cărora angajații, clienții, comunitățile și guvernele au cu toții interese diferite. M-a surprins cât de mult seamănă metodele lor cu cele ale unui bun autoritate de reglementare. Ei adună informații consultând persoanele afectate, își explică public alegerile și creează mecanisme prin care verifică dacă acestea rezistă examinării. Acestea nu sunt nici practici de reglementare, nici practici corporative. Sunt principiile unei bune luări a deciziilor în orice instituție care exercită putere asupra altora. Ordonarea corporativă este încercarea mea de a descrie acest mecanism, de a arăta unde funcționează și unde eșuează.

Ce înseamnă „ordonare corporativă” și cum ne ajută să înțelegem felul în care companiile de inteligență artificială stabilesc reguli pentru tehnologii pe care reglementarea încă nu a ajuns să le țină din urmă?

Ordonarea corporativă este infrastructura internă de guvernanță pe care companiile o construiesc pentru a lua decizii contestate înainte ca legea să le spună ce au de făcut. Are trei funcții, care reflectă ramurile unui stat. Elaborarea regulilor este modul în care o companie își formulează propriile principii. Acțiunea executivă constă în aplicarea lor la decizii concrete. Monitorizarea îi permite companiei să verifice dacă și-a dus la îndeplinire angajamentele și să afle când nu a făcut-o.

Companiile de inteligență artificială ilustrează toate cele trei funcții. Laboratoarele de vârf elaborează constituții, specificații pentru modele și cadre de siguranță — activități care țin de elaborarea regulilor. Ele decid dacă un model este pregătit pentru lansare, ce solicitări va refuza și cine va avea acces la el — decizii care țin de acțiunea executivă. De asemenea, comandă teste de siguranță realizate de echipe adverse, evaluări externe și raportări ale incidentelor — activități care țin de monitorizare. În carte, trec în revistă aceste funcții în cadrul principalelor laboratoare. Diferențele sunt reale, dar la fel de remarcabilă este și convergența: fiecare companie descoperă de ce are nevoie de toate componentele.

Vreau să clarific un lucru, fiindcă este adesea interpretat greșit. Ordonarea corporativă nu este un argument împotriva reglementării. Ea descrie materialul din care va fi construită reglementarea. Când intervin legislatorii, aceștia preiau concepte pe care companiile le-au dezvoltat mai întâi. Adevărata întrebare este dacă această primă versiune a fost redactată suficient de atent încât să merite preluată.

Cartea dumneavoastră analizează serviciile de transport la cerere, sustenabilitatea climatică și guvernanța inteligenței artificiale. Care dintre lecțiile din primele două domenii sunt cele mai utile pentru inteligența artificială și prin ce provocări diferă fundamental acest domeniu?

Lecția desprinsă din serviciile de transport la cerere și din domeniul climei este că, foarte adesea, corporațiile redactează prima versiune a legii. Uber și Lyft au dezvoltat practici de raportare privind asigurările și siguranța înainte ca statele să adopte reguli în acest sens, iar o mare parte din contabilitatea emisiilor de carbon a companiilor se bazează pe Protocolul GHG, un standard la a cărui elaborare au contribuit companiile. Ulterior, autoritățile de reglementare au aprobat aceste practici, le-au completat sau le-au introdus în lege. Reglementarea pornește rareori de la zero. Iar cu cât companiile își analizează mai atent opțiunile și țin mai mult seama de părțile afectate, cu atât este mai probabil ca alegerile lor să se regăsească în reglementări.

Inteligența artificială se deosebește în două privințe. Prima este viteza. Autoritățile de reglementare sunt adesea cu un pas în urma industriei, însă, în domeniul inteligenței artificiale, decalajul este mult mai mare. Autoritățile vor trebui să se bazeze pe companii pentru elaborarea standardelor și a proceselor interne și să-și concentreze propriile eforturi asupra supravegherii, verificării și aplicării regulilor. Rolul lor devine astfel diferit, nu mai puțin important. Verificarea este domeniul în care autoritatea publică contează cel mai mult, deoarece acolo conflictul de interese cu conducerea este cel mai pronunțat. A doua diferență ține de amploare. Inteligența artificială atinge aproape toate aspectele vieții de zi cu zi și a devenit o investiție majoră pentru întreaga țară. Implicațiile în materie de risc sistemic sunt la fel de evidente pe cât sunt de greu de înțeles.

Atunci când o companie de inteligență artificială își alege și își plătește propriii evaluatori externi de siguranță, ce garanții pot asigura independența reală a supravegherii?

Acest conflict de interese este bine cunoscut din auditul financiar, iar dreptul societăților comerciale dispune deja de instrumente pentru a-l gestiona. Primul aspect este cine angajează și concediază evaluatorul. Relația cu acesta ar trebui să fie în responsabilitatea directorilor independenți, care nu au alte legături financiare cu compania, la fel cum comitetul de audit, nu directorul general sau directorul financiar, supraveghează auditorul extern. Conducerea nu ar trebui să poată concedia un evaluator ale cărui constatări îi sunt incomode.

Al doilea aspect ține de acces și publicare. Evaluatorul trebuie să poată vedea ceea ce solicită și să aibă dreptul de a-și publica constatările sau cel puțin un rezumat relevant, fără ca firma să-i poată pune veto. Riscul reputațional este cel care dă greutate unei evaluări. Al treilea aspect îl reprezintă standardele comune de evaluare, astfel încât o evaluare să însemne același lucru în toate firmele și evaluatorii să nu poată concura între ei fiind mai îngăduitori. Al patrulea aspect este protecția avertizorilor de integritate și chiar recompensarea lor atunci când furnizează informații care permit luarea unor măsuri concrete, pentru că oamenii din interiorul companiei sunt adesea primii care află când o evaluare a fost influențată.

Să presupunem că un evaluator extern identifică o problemă gravă de siguranță cu puțin timp înainte de lansarea unui model major. Cine ar trebui să primească această constatare și cine ar trebui să aibă autoritatea de a amâna sau opri implementarea?

Constatarea ar trebui să ajungă direct la consiliul de administrație, ideal la un comitet de directori independenți responsabili de siguranță, nu doar prin intermediul echipei de conducere care susține lansarea. Conducerea poate și ar trebui să răspundă, dar nu ar trebui să fie un filtru. Autoritatea de a amâna sau opri implementarea ar trebui să aparțină consiliului de administrație, deoarece tocmai acesta este genul de decizie pe care consiliile sunt menite să o ia: una cu mize mari, interese divergente și fără un răspuns evident corect.

Dar aspectul mai important este că decizia trebuie să fie explicită și documentată, iar cei care au luat-o trebuie să poată fi identificați. Dacă, în pofida preocupării exprimate, consiliul de administrație decide să continue, documentele ar trebui să arate ce informații avea, ce factori a cântărit și de ce a considerat riscul acceptabil. Această urmă documentară creează condițiile pentru răspundere juridică sau, cel puțin, pentru prejudicii reputaționale și îi face pe oameni să se gândească de două ori. Instanțele sunt tot mai dispuse să recunoască faptul că deciziile de proiectare a software-ului au consecințe pentru utilizatori, iar o companie care poate demonstra că a depus eforturi serioase și documentate se află într-o situație foarte diferită de una care nu poate face acest lucru.

Cum ar trebui să arate un proces credibil de luare a deciziilor de către consiliu atunci când preocupările legate de siguranță intră în conflict cu obiectivele de venituri sau cu presiunea concurențială?

Un proces credibil se bazează pe informații și lasă în urmă o documentație. Consiliul ar trebui să primească informații concrete despre costurile amânării, natura și probabilitatea problemei de siguranță, precum și despre opțiunile de atenuare a acesteia. Ar trebui să verifice dacă testarea a fost suficientă și, dacă nu a fost, să dispună teste suplimentare sau să solicite o evaluare externă. Atunci când persistă o incertitudine reală, există și opțiuni intermediare între lansare și abandonare, precum o lansare limitată, o implementare etapizată sau un mediu de testare izolat, care permit companiei să afle mai multe înainte de a-și lua un angajament. Iar indiferent de decizia consiliului, ceea ce compania afirmă ulterior în public despre siguranța modelului trebuie să fie corect; aici se află o mare parte din riscul de litigii actual.

Apoi, consiliul ar trebui să consemneze ce a decis și de ce. În timp, aceste documente formează un corpus de precedente, astfel încât următoarea decizie dificilă să fie evaluată în raport cu cea precedentă, iar oricine examinează compania să poată vedea dacă principiile pe care aceasta le declară sunt într-adevăr obligatorii. Microsoft a început să construiască un astfel de istoric al deciziilor și cred că este unul dintre cele mai subestimate instrumente de guvernanță a IA. Presiunea concurențială este reală, iar un consiliu poate decide în mod rezonabil să continue. Ceea ce nu poate face este să lase decizia să se ia de la sine.

În lucrarea dumneavoastră propuneți un standard al „judecății de afaceri cu dimensiune socială” pentru evaluarea deciziilor consiliilor de administrație. Cum s-ar aplica acesta unei companii de IA care amână lansarea unui produs profitabil din cauza unui posibil prejudiciu adus publicului?

Potrivit dreptului societăților comerciale în vigoare, un consiliu de administrație care amână o lansare profitabilă este deja bine protejat. Instanțele acordă deferență judecății de afaceri a administratorilor, iar acceptarea unor profituri mai mici astăzi pentru a evita prejudicii mâine se încadrează fără dificultate în acest principiu. Întrebarea mai dificilă este cea inversă: dacă consiliul a luat în serios prejudiciile potențiale aduse publicului.

Judecata de afaceri cu dimensiune socială le cere consiliilor de administrație să evalueze posibilele prejudicii aduse publicului așa cum evaluează orice alt risc de afaceri, folosind, pe cât posibil, indicatori concreți, măsurabili și specifici. Accentul cade pe proces și pe diligența necesară, nu pe rezultat. Un consiliu care obține informațiile potrivite, ascultă persoanele afectate și își consemnează raționamentul merită deferență, fie că amână lansarea, fie că îi dă curs. Un consiliu care nu face nimic din toate acestea nu o merită. Așadar, în cazul pe care îl descrieți, amânarea în sine nu este problema. Problema este dacă consiliul poate arăta cum a ajuns la acea decizie și dacă ar lua aceeași decizie din nou, în fața acelorași fapte.

Companiile de IA publică cadre de siguranță și angajamente voluntare, dar cititorii rareori văd cum influențează aceste politici deciziile individuale. Ce dovezi ar permite să se distingă o guvernanță eficientă de un simplu exercițiu de relații publice?

Foarte des, când companiile publică cadre de reglementare, publicul rămâne să se întrebe dacă acestea se aplică vreodată unor decizii concrete sau rămân simple declarații, pe care compania nu le pune niciodată în practică. Răspunsul constă într-un anumit tip de transparență. În loc să publice și mai multe declarații de principiu, companiile ar trebui să raporteze ce decizii concrete au luat și cum le-a influențat cadrul respectiv: ce lansări au fost amânate, ce capabilități au fost reținute, ce praguri de risc au fost atinse și ce a urmat.

Cea mai grăitoare dovadă este o decizie care a costat compania ceva. Este greu să deosebești de relațiile publice un cadru care nu a schimbat niciodată un rezultat, nu a întârziat nicio lansare și nu a fost invocat niciodată în detrimentul veniturilor. Aceste dezvăluiri trebuie, de asemenea, să fie suficient de precise pentru a putea fi verificate, iar cele referitoare la cele mai importante chestiuni ar trebui verificate de o terță parte care să aibă autoritatea de a confirma public acest lucru.

Unde se oprește autoreglementarea corporativă? Ce decizii privind riscul acceptabil asociat inteligenței artificiale necesită reguli publice sau supraveghere democratică?

Cea mai importantă limită ține de eșecul monitorizării. Chiar și o companie bine intenționată și responsabilă se poate confrunta cu o criză majoră, iar în acel moment conflictele de interese se înmulțesc. Angajații pot ascunde informații care le-ar afecta locul de muncă sau bonusurile. Directorii pot suprima veștile proaste pentru a evita criticile publice. Teama de procese o poate împiedica pe companie să fie deschisă. În crizele corporative din trecut, informațiile esențiale au provenit de obicei de la persoane pe care conducerea nu le putea controla: auditori și evaluatori externi, părți afectate sau avertizori de integritate din interiorul companiei, care au folosit canale independente de raportare.

Aici contează cel mai mult regulile publice. Legea poate contribui relativ puțin în etapa elaborării normelor, deoarece actele legislative tind să preia conceptele-cheie de la companii. Poate contribui mai mult în privința transparenței, obligând și firmele care nu ar face dezvăluiri în mod voluntar. Iar contribuția sa este cea mai importantă în privința verificării: poate impune evaluări independente, proteja avertizorii de integritate și le poate conferi verificărilor externe o autoritate reală.

Cealaltă limită este una colectivă. Cel mult, o companie se poate opri pe sine. Nu-și poate opri concurenții. Deciziile privind riscurile catastrofale, inclusiv dacă trebuie încetinit progresul tehnologic de vârf, necesită coordonare între companii și guverne, atât pe plan intern, cât și la nivel internațional. Un model pe care îl consider promițător este un organism internațional de stabilire a standardelor, după modelul ISSB în materie de raportare privind sustenabilitatea, independent de guverne, dar supravegheat de un consiliu de administrație care le include. Ordonarea corporativă este necesară pentru această muncă, deoarece ținerea sub control a acestor modele are loc în interiorul companiilor care le construiesc, dar nu poate susține singură întregul efort.

Dacă ați consilia astăzi consiliul de administrație al unei companii de inteligență artificială aflate într-o perioadă de creștere rapidă, ce trei schimbări în materie de guvernanță ați prioritiza și ce dovezi ați căuta peste un an pentru a stabili dacă au dat rezultate?

În primul rând, consultarea în procesul de elaborare a normelor. Înainte să adopte sau să revizuiască cadrul de siguranță ori politicile de utilizare, compania ar trebui să se consulte cu persoanele afectate (utilizatori, societatea civilă, experți în domeniu) și să publice ce a aflat și cum a răspuns. În al doilea rând, raportarea periodică privind responsabilitatea: o prezentare anuală a deciziilor dificile luate de consiliul de administrație și de conducere în temeiul cadrului, cu suficiente detalii pentru a putea fi verificate. În al treilea rând, un monitor extern, angajat de administratorii independenți și subordonat acestora, cu acces deplin și dreptul de a publica.

Peste un an, aș căuta dovezi că fiecare dintre aceste măsuri a avut efectiv un impact. În cazul consultării, cel puțin o regulă schimbată ca urmare a opiniilor primite de companie. În cazul raportării, decizii dezvăluite despre care compania ar fi preferat să nu vorbească, inclusiv decizii care au costat-o venituri sau timp. În cazul monitorului, constatări pe care compania nu și le-ar fi dorit și o evidență a măsurilor luate de consiliul de administrație în legătură cu acestea. Dacă, după un an, tot ce se raportează este o veste bună, schimbările nu au dat rezultate.

Vă mulțumesc pentru interviul excelent. Cititorii care doresc să afle mai multe despre carte și despre opțiunile de achiziție pot vizita site-ul oficial al cărții Corporate Ordering.

Antoine este un lider vizionar și partener fondator al Unite.AI, animat de o pasiune de neclintit pentru modelarea și promovarea viitorului inteligenței artificiale și al roboticii. Antreprenor care a fondat mai multe companii, el crede că IA va transforma societatea la fel de profund ca electricitatea și vorbește adesea cu entuziasm despre potențialul tehnologiilor revoluționare și al inteligenței artificiale generale (AGI).

Ca futurolog, se dedică explorării modului în care aceste inovații vor modela lumea noastră. Este, de asemenea, fondatorul Securities.io, o platformă axată pe investiții în tehnologii de vârf care redefinesc viitorul și transformă sectoare întregi.