Interviste

Stavros Gadinis, professore di diritto a Berkeley e autore di Corporate Ordering – Serie di interviste

Antoine Tardif
Aggiungi Unite.AI alle tue fonti preferite su Google
Stavros Gadinis, George R. Johnson Professor of Law at UC Berkeley School of Law
Punti chiaveL'ordinamento aziendale descrive come le imprese scrivono regole e si monitorano prima…
Vedi di più
  • L'ordinamento aziendale descrive come le imprese scrivono regole e si monitorano prima che intervengano i regolatori.
  • Le valutazioni di sicurezza dell'IA mancano di indipendenza quando il management assume e può licenziare i propri revisori esterni.
  • Un quadro di sicurezza che non ha mai ritardato un lancio è indistinguibile dalle pubbliche relazioni.

Stavros Gadinis è titolare della cattedra George R. Johnson di diritto presso la UC Berkeley School of Law. La sua ricerca esamina la governance aziendale, la regolamentazione finanziaria e i sistemi interni che le imprese utilizzano per prendere e monitorare le decisioni. Prima di intraprendere la carriera accademica, ha esercitato il diritto societario in Europa.

Il suo nuovo libro, Corporate Ordering: come le imprese affrontano i conflitti sociali, pubblicato da Cambridge University Press, esamina come le aziende sviluppano sistemi di governance quando le norme pubbliche sono ancora incerte. Attraverso casi riguardanti i servizi di mobilità condivisa, la sostenibilità climatica e l’intelligenza artificiale, analizza come le aziende definiscono le regole, esercitano l’autorità e vigilano sulla propria condotta.

La sua carriera spazia dall’esercizio del diritto societario in Europa alla ricerca sulla governance aziendale e sulla regolamentazione finanziaria presso Berkeley Law. In che modo questo percorso ha influenzato il suo modo di pensare e che cosa l’ha spinta a scrivere Corporate Ordering?

Ho iniziato la mia carriera esercitando il diritto societario in Europa, poi ho trascorso molti anni a Berkeley studiando la governance aziendale e la regolamentazione finanziaria, compreso il modo in cui le regole si diffondono oltre confine quando nessun singolo governo ha il controllo. Tendiamo a considerare il mondo degli affari e quello della regolamentazione come opposti: il primo desideroso di prendere decisioni rapide e realizzare grandi profitti, il secondo dedito alle procedure burocratiche e al bene pubblico. La pratica e la ricerca mi hanno insegnato che il confine è molto più sfumato.

Il libro è nato dalle conversazioni con consulenti legali interni e dirigenti di alto livello su come affrontano le decisioni controverse, quelle in cui dipendenti, clienti, comunità e governi vogliono tutti cose diverse. Mi ha colpito quanto i loro metodi assomiglino a quelli di un buon ente regolatore. Raccolgono informazioni rivolgendosi alle persone coinvolte, spiegano pubblicamente le proprie scelte e creano meccanismi per verificare se queste reggono alla prova dei fatti. Non si tratta di abitudini proprie della regolamentazione o delle aziende. Sono i principi alla base di decisioni ponderate in qualsiasi istituzione che eserciti potere sugli altri. Con Corporate Ordering cerco di descrivere questo apparato, mostrare dove funziona e dove invece fallisce.

Che cosa si intende per «ordinamento aziendale» e in che modo aiuta a spiegare come le aziende di IA stabiliscono regole per tecnologie che la regolamentazione non è ancora riuscita a raggiungere?

L’ordinamento aziendale è l’infrastruttura di governance interna che le imprese costruiscono per prendere decisioni controverse prima che la legge dica loro che cosa fare. Svolge tre funzioni, che rispecchiano i rami dello Stato. La definizione delle regole è il modo in cui un’azienda formula i propri principi. L’azione esecutiva è il modo in cui li applica a decisioni concrete. Il monitoraggio serve a verificare se li ha messi in pratica e a scoprire quando non lo ha fatto.

Nelle aziende di IA si osservano tutte e tre queste funzioni. I laboratori all’avanguardia redigono costituzioni, specifiche dei modelli e quadri di riferimento per la sicurezza: questa è la definizione delle regole. Decidono se un modello è pronto per il lancio, a quali richieste rifiuterà di rispondere e chi potrà accedervi: questa è l’azione esecutiva. Commissionano inoltre esercitazioni di red teaming, valutazioni esterne e segnalazioni degli incidenti: questo è il monitoraggio. Nel libro analizzo queste funzioni nei principali laboratori. Le differenze sono reali, ma lo è anche la notevole convergenza: ogni azienda si rende conto di aver bisogno di tutti gli elementi.

Voglio chiarire un punto, perché spesso viene frainteso: l’ordinamento aziendale non è un argomento contro la regolamentazione. Descrive il materiale su cui si baserà la regolamentazione. Quando i legislatori intervengono, riprendono concetti sviluppati per primi dalle aziende. La vera domanda è se quella prima bozza sia stata redatta con sufficiente attenzione da meritare di essere ripresa.

Il suo libro esamina i servizi di mobilità condivisa, la sostenibilità climatica e la governance dell’IA. Quali insegnamenti dei primi due ambiti sono più utili per l’IA e quali sfide fondamentalmente diverse pone quest’ultima?

Dai servizi di mobilità condivisa e dal clima si impara che spesso sono le aziende a scrivere la prima bozza della legge. Uber e Lyft hanno sviluppato prassi per la segnalazione in materia di sicurezza e assicurazioni prima che gli Stati adottassero norme al riguardo, e gran parte della contabilità aziendale delle emissioni di carbonio si basa sul GHG Protocol, uno standard che le imprese hanno contribuito a sviluppare. In seguito, gli enti regolatori hanno avallato quelle prassi, le hanno integrate o le hanno recepite nella legge. La regolamentazione parte raramente da zero. E più le aziende riflettono attentamente sulle proprie scelte e tengono conto delle parti coinvolte, più è probabile che tali scelte vengano mantenute nella regolamentazione.

L’IA presenta due differenze. La prima è la velocità. Spesso gli enti regolatori sono un passo indietro rispetto al settore, ma nell’IA il divario è molto più ampio. Dovranno affidarsi alle aziende per sviluppare standard e processi interni e concentrare i propri sforzi su supervisione, verifica e applicazione delle norme. Questo rende diverso il loro ruolo, non meno importante. La verifica è il campo in cui il potere pubblico conta di più, perché è lì che il conflitto di interessi con la dirigenza è più forte. La seconda differenza è la portata. L’IA tocca quasi ogni aspetto della vita quotidiana ed è diventata un investimento importante per l’intera nazione. Le implicazioni per il rischio sistemico sono tanto difficili da ignorare quanto da comprendere appieno.

Quando un’azienda di IA sceglie e paga i propri valutatori esterni della sicurezza, quali garanzie rendono la loro supervisione effettivamente indipendente?

Questo conflitto di interessi è ben noto nel campo della revisione contabile, e il diritto societario dispone già degli strumenti per gestirlo. Il primo riguarda chi assume e licenzia. Il rapporto con il valutatore dovrebbe fare capo ad amministratori indipendenti, che non abbiano altri legami finanziari con la società, proprio come il comitato per il controllo interno e la revisione contabile, e non l’amministratore delegato o il direttore finanziario, supervisiona il revisore esterno. La dirigenza non dovrebbe poter licenziare un revisore le cui conclusioni siano scomode.

Il secondo aspetto riguarda l’accesso e la pubblicazione. Il valutatore deve poter esaminare ciò che chiede di esaminare e avere il diritto di pubblicare le proprie conclusioni, o almeno una sintesi significativa, senza che la società possa porre il veto. È il rischio reputazionale a dare incisività a una revisione. Il terzo aspetto consiste nell’adottare standard di revisione comuni, in modo che una valutazione abbia lo stesso significato nelle diverse società e che i valutatori non possano farsi concorrenza adottando criteri più permissivi. Il quarto è la tutela di chi segnala illeciti, e persino la possibilità di ricompensarlo quando fornisce informazioni utili e concrete, perché spesso le persone all’interno della società sono le prime a sapere quando una valutazione è stata condizionata.

Supponiamo che un valutatore esterno individui un grave problema di sicurezza poco prima del lancio di un modello importante. A chi dovrebbe comunicare questa conclusione e chi dovrebbe avere l’autorità di rinviare o bloccare la messa in distribuzione?

La conclusione dovrebbe essere comunicata direttamente al consiglio di amministrazione, idealmente a un comitato di amministratori indipendenti responsabile della sicurezza, e non soltanto attraverso il gruppo dirigente che spinge per il lancio. La dirigenza può e dovrebbe rispondere, ma non dovrebbe fungere da filtro. L’autorità di rinviare o bloccare la messa in distribuzione dovrebbe spettare al consiglio di amministrazione, perché è esattamente il tipo di decisione che i consigli sono chiamati a prendere: una decisione dalle conseguenze rilevanti, con interessi contrapposti e senza una risposta chiaramente giusta.

Ma il punto più importante è che la decisione deve essere esplicita e documentata, e deve poter essere ricondotta alle persone che l’hanno presa. Se il consiglio decide di procedere nonostante il problema, la documentazione dovrebbe indicare che cosa sapeva, quali elementi ha ponderato e perché ha ritenuto accettabile il rischio. Questa traccia documentale crea i presupposti per una responsabilità, o quantomeno per un danno reputazionale, e induce a riflettere. I tribunali sono sempre più disposti a riconoscere che le scelte di progettazione del software hanno conseguenze per gli utenti, e una società in grado di dimostrare di aver compiuto uno sforzo serio e documentato si trova in una posizione molto diversa da una che non può farlo.

Quando i problemi di sicurezza entrano in conflitto con gli obiettivi di fatturato o con la pressione concorrenziale, come dovrebbe svolgersi un processo decisionale credibile a livello di consiglio di amministrazione?

Un processo credibile è un processo informato, che lascia traccia. Il consiglio dovrebbe disporre di informazioni concrete sui costi di un rinvio, sulla natura e sulla probabilità del problema di sicurezza e sulle possibili misure per mitigarne i rischi. Dovrebbe chiedersi se i test siano stati adeguati e, in caso contrario, commissionarne altri o chiedere una valutazione esterna. Quando permane una reale incertezza, esistono alternative al lancio e alla sospensione, come un rilascio limitato, una distribuzione graduale o un ambiente sandbox, che consentono alla società di raccogliere ulteriori informazioni prima di assumere un impegno. E qualunque sia la decisione del consiglio, ciò che la società dichiara poi pubblicamente sulla sicurezza del modello deve essere accurato: è qui che si concentra gran parte dell’attuale rischio di contenzioso.

Il consiglio dovrebbe poi mettere per iscritto che cosa ha deciso e perché. Con il tempo, questi documenti formano un corpus di precedenti, così che la successiva decisione difficile possa essere valutata alla luce della precedente e chiunque esamini la società possa verificare se i principi dichiarati siano davvero vincolanti. Microsoft ha iniziato a costruire questo tipo di documentazione decisionale, che considero uno degli strumenti meno apprezzati nella governance dell’IA. La pressione concorrenziale è reale e il consiglio può ragionevolmente decidere di procedere. Quello che non può fare è lasciare che la decisione venga presa per inerzia.

Nel suo lavoro propone uno standard di «giudizio imprenditoriale sociale» per valutare le decisioni dei consigli di amministrazione. Come si applicherebbe a una società di IA che rinvia il lancio di un prodotto redditizio a causa dei potenziali danni per la collettività?

In base al diritto societario vigente, un consiglio che rinvia un lancio redditizio è già ampiamente tutelato. I tribunali deferiscono al giudizio imprenditoriale degli amministratori, e rinunciare a maggiori profitti oggi per evitare un danno domani rientra pienamente in questo principio. La questione più difficile è quella opposta: se il consiglio abbia preso sul serio i possibili danni per la collettività.

Il giudizio imprenditoriale sociale chiede al consiglio di valutare i potenziali danni per la collettività come qualsiasi altro rischio d’impresa, utilizzando, ove possibile, parametri concreti, misurabili e specifici. L’accento è posto sul processo e sulla dovuta diligenza, non sul risultato. Un consiglio che reperisce le informazioni giuste, ascolta le persone interessate e documenta il proprio ragionamento merita deferenza, sia che rinvii il lancio sia che proceda. Un consiglio che non fa nulla di tutto questo non la merita. Nel caso che descrive, quindi, il rinvio in sé non è il problema. Il problema è se il consiglio sappia spiegare come è arrivato a quella decisione e se, a parità di fatti, prenderebbe di nuovo la stessa decisione.

Le società di IA pubblicano quadri di riferimento per la sicurezza e impegni volontari, ma raramente i lettori riescono a vedere in che modo queste politiche incidano sulle singole decisioni. Quali prove permetterebbero di distinguere una governance efficace da un’operazione di pubbliche relazioni?

Molto spesso, quando le aziende pubblicano i propri quadri di riferimento, il pubblico si chiede se vengano mai applicati a decisioni concrete o restino dichiarazioni di principio che l’azienda non mette mai in pratica. La risposta è un tipo specifico di trasparenza. Anziché pubblicare altre dichiarazioni di principio, le aziende dovrebbero riferire quali scelte concrete hanno compiuto e in che modo il quadro di riferimento le ha influenzate: quali lanci sono stati rinviati, quali funzionalità sono state trattenute, quali soglie di rischio sono state superate e quali conseguenze ne sono derivate.

La prova più significativa è una decisione che è costata qualcosa all’azienda. È difficile distinguere dalla pubbliche relazioni un quadro di riferimento che non ha mai cambiato un esito, ritardato un lancio o è stato fatto valere a discapito dei ricavi. Queste comunicazioni devono inoltre essere abbastanza specifiche da poter essere verificate e, per le questioni più rilevanti, dovrebbero essere sottoposte alla verifica di una terza parte autorevole, in grado di dichiararlo pubblicamente.

Fin dove può spingersi l’autoregolamentazione aziendale? Quali decisioni sul livello di rischio accettabile dell’IA richiedono regole pubbliche o una supervisione democratica?

Il limite più importante riguarda le carenze nel monitoraggio. Anche un’azienda responsabile e animata dalle migliori intenzioni può trovarsi ad affrontare una crisi grave e, in quel momento, i conflitti di interesse si moltiplicano. I dipendenti potrebbero tacere informazioni che danneggerebbero il loro lavoro o i loro bonus. I dirigenti potrebbero insabbiare le cattive notizie per evitare critiche pubbliche. Il timore di cause legali potrebbe impedire all’azienda di essere trasparente. Nelle crisi aziendali del passato, le informazioni cruciali sono solitamente giunte da persone che la dirigenza non poteva controllare: revisori e valutatori esterni, le parti coinvolte o informatori interni che si sono avvalsi di canali di segnalazione indipendenti.

È soprattutto qui che le regole pubbliche sono importanti. La legge può incidere relativamente poco nella fase di elaborazione delle regole, perché le norme tendono a riprendere dalle aziende i concetti fondamentali. Può contribuire maggiormente sul fronte della trasparenza, raggiungendo le imprese che non intendono divulgare informazioni volontariamente. Il suo contributo è massimo sul fronte della verifica, imponendo controlli indipendenti, tutelando gli informatori e conferendo un’effettiva autorità alle verifiche esterne.

L’altro limite è di natura collettiva. Il massimo che una singola azienda può fare è fermare sé stessa. Non può fermare i concorrenti. Le decisioni sui rischi catastrofici, compresa quella di rallentare lo sviluppo dell’IA di frontiera, richiedono il coordinamento tra aziende e governi, a livello nazionale e internazionale. Un modello che ritengo promettente è un organismo internazionale di normazione sul modello dell’ISSB per la rendicontazione sulla sostenibilità, indipendente dai governi ma sottoposto alla supervisione di fiduciari che li includano. L’ordinamento societario è necessario per questo lavoro, perché è all’interno delle aziende che li sviluppano che questi modelli vengono domati, ma non può portarlo avanti da solo.

Se oggi dovesse consigliare il consiglio di amministrazione di un’azienda di IA in rapida crescita, quali tre cambiamenti nella governance metterebbe in cima alle priorità e quali prove cercherebbe un anno dopo per stabilire se hanno funzionato?

Primo, consultare le parti interessate durante l’elaborazione delle regole. Prima di adottare o rivedere il proprio quadro di sicurezza o le proprie politiche d’uso, l’azienda dovrebbe consultare le persone coinvolte (utenti, società civile, esperti del settore) e rendere pubblico ciò che ha appreso e il modo in cui vi ha dato seguito. Secondo, pubblicare periodicamente una rendicontazione sulle responsabilità: un resoconto annuale delle decisioni difficili prese dal consiglio di amministrazione e dalla dirigenza nell’ambito del quadro di riferimento, con dettagli sufficienti a consentirne la verifica. Terzo, nominare un supervisore esterno, incaricato da amministratori indipendenti e tenuto a riferire a loro, con pieno accesso e il diritto di pubblicare le proprie conclusioni.

Un anno dopo cercherei prove che ciascuna misura abbia davvero prodotto effetti. Per la consultazione, almeno una regola modificata in seguito a ciò che l’azienda ha ascoltato. Per la rendicontazione, decisioni rese pubbliche di cui l’azienda avrebbe preferito non parlare, comprese quelle che le sono costate ricavi o tempo. Per il supervisore, conclusioni sgradite all’azienda e un resoconto di ciò che il consiglio di amministrazione ha fatto al riguardo. Se dopo un anno tutte le informazioni pubblicate sono positive, i cambiamenti non hanno funzionato.

Grazie per la splendida intervista. I lettori che desiderano approfondire il libro e conoscere le opzioni di acquisto possono visitare il sito ufficiale di Ordinamento societario.

Antoine è un leader visionario e socio fondatore di Unite.AI, animato da una passione incrollabile per plasmare e promuovere il futuro dell’IA e della robotica. Imprenditore che ha fondato diverse aziende, ritiene che l’IA trasformerà la società quanto l’elettricità e parla spesso con entusiasmo del potenziale delle tecnologie dirompenti e dell’intelligenza artificiale generale (AGI).

In qualità di futurologo, si dedica a esplorare come queste innovazioni plasmeranno il nostro mondo. È inoltre il fondatore di Securities.io, una piattaforma incentrata sugli investimenti in tecnologie all’avanguardia che stanno ridefinendo il futuro e trasformando interi settori.