La Governance dell’Intelligenza Artificiale: Un Problema per la Maggior Parte, un Vantaggio per i Pochi

L’intelligenza artificiale aziendale sta accumulando rischi più velocemente di quanto chiunque stia tenendo conto. Gli agenti di intelligenza artificiale stanno iniziando a toccare i dati dei clienti, il codice di produzione e le decisioni aziendali importanti, e nella maggior parte delle organizzazioni, sono governati da controlli progettati per un’era tecnologica molto diversa. Allo stesso tempo, i sostegni esterni che le aziende potrebbero aver utilizzato si stanno assottigliando. I principali laboratori di intelligenza artificiale hanno ridotto gli impegni volontari per la sicurezza, e la regolamentazione rimane frammentata tra le giurisdizioni. L’onere della fiducia sta cadendo sulle aziende che utilizzano l’intelligenza artificiale, perché alla fine sono loro che subiranno le conseguenze negative quando e se si verificheranno.

Faccio lavori strategici sull’intelligenza artificiale con aziende di quasi tutti i settori, e parlo con CEO e consigli di amministrazione ogni giorno. Il modello costante che vedo è il seguente: la distribuzione si accelera mentre l’infrastruttura di controllo semplicemente non tiene il passo. Il modello è abbastanza costante da considerarlo strutturale piuttosto che un fallimento di una singola azienda, e farò una previsione: non siamo lontani da un CEO che dovrà spiegare che un grande errore è costato all’azienda milioni, e incolperà l’intelligenza artificiale. Suggerirei gentilmente che non è una scusa.

La buona notizia è che ho la fortuna di vedere da vicino un pugno di aziende che trattano la governance in modo diverso, e credo che queste aziende stiano costruendo un vantaggio a lungo termine che si accumula nel tempo, mentre gli altri che aspettano a bordo rischiano di diventare obsoleti. Capire cosa vedono i pochi inizia con la comprensione di dove porta la traiettoria attuale.

Siamo Diretti Verso un Problema

Le distribuzioni odierne sono abbastanza piccole da poter assorbire il rischio con la supervisione umana. La ricerca più recente di Deloitte sul Stato dell’Intelligenza Artificiale nell’Azienda ha trovato che solo un quarto delle organizzazioni intervistate aveva spostato almeno il 40% dei loro esperimenti di intelligenza artificiale in produzione. La maggior parte delle aziende è ancora all’inizio della curva, eseguendo un pugno di agenti in casi d’uso ristretti con persone che monitorano ogni pezzo di output.

La traiettoria è ciò che conta. Mentre le distribuzioni si espandono da due agenti a 20, a 200, a 2.000 e oltre, la complessità si accumula. Ogni nuovo agente porta il suo comportamento, più le sue interazioni con ogni sistema che tocca e ogni altro agente con cui lavora. A due agenti, la fiducia è facile: conosci il team e verifichi gli output di persona. A 20, la fiducia deve diventare un processo, con proprietari definiti, test e percorsi di escalation. Può ancora funzionare, ma sta diventando più difficile da sostenere. A 200, la revisione informale diventa teatro, perché nessun team di leadership può controllare manualmente tutta quell’attività. E a 2.000, l’essere umano nel ciclo è virtualmente inutile, poiché le interazioni tra agenti, dati e processi aziendali formano una rete al di là di ciò che la supervisione manuale può coprire. A quella scala, la fiducia deve esistere anche a scala e essere incorporata nell’architettura tecnica dell’azienda.

Il Costo dell’Attesa

L’infrastruttura di fiducia mancante è anche una delle ragioni dei ritorni deludenti. Nella ultimo sondaggio globale dei CEO di PwC, il 56% dei CEO ha detto che l’intelligenza artificiale non ha prodotto né un aumento dei ricavi né una riduzione dei costi nell’ultimo anno. Nella mia esperienza, anche i ritorni segnalati sembrano meno convincenti una volta esaminata l’economia sottostante. La maggior parte delle aziende conta le ore risparmiate e le chiama ritorno sull’investimento. Le ore risparmiate diventano ritorno finanziario solo quando l’organizzazione converte quella capacità in qualcosa di più prezioso: maggiore output, migliore qualità, costo evitato, crescita più rapida, ecc.

Quella conversione richiede fiducia. Un’azienda può spostare il giudizio umano su lavoro di maggior valore solo quando la leadership si fida dei sistemi che prendono il posto del lavoro di minor valore. In assenza di quella fiducia, le aziende accumulano debito tecnico che non scala, e nel tempo, ha un impatto significativo sulla produttività. È il peggio di entrambi i mondi: spesa aumentata con poco da mostrare. La fiducia è la base su cui si accumulano quei ritorni.

Il Problema dell’Ascensore

Il collegamento tra fiducia e adozione non è una novità, e possiamo tornare alla metà del XX secolo per un punto di riferimento ragionevole. Gli ascensori senza conducente esistevano decenni prima che qualcuno li utilizzasse. La tecnologia funzionava, ma i passeggeri entravano in una vettura, vedevano nessun operatore e uscivano. Ciò che è cambiato non è stato l’ascensore, ma i controlli di sicurezza intorno ad esso. Dopo uno sciopero degli operatori del 1945 che ha chiuso gli edifici per uffici di tutta New York, l’industria ha progettato la fiducia nella macchina stessa: il pulsante di arresto di emergenza, la linea telefonica, le porte che si riaprono quando incontrano resistenza e una voce registrata che spiega cosa fare. Entro una generazione, salire su un ascensore senza un essere umano al controllo è diventato così ordinario che entrare in un ascensore con una persona ai bottoni sembrava antiquato. La barriera alla rimozione dell’essere umano dal ciclo non è mai stata la capacità. È stata la fiducia, e l’industria l’ha risolta costruendo controlli visibili e verificabili nel sistema e mettendoli dove ogni passeggero potesse vederli.

L’intelligenza artificiale aziendale è allo stadio di entrare e uscire. I team di leadership vedono gli agenti che funzionano senza un essere umano al controllo ed esitano, e l’esitazione è razionale: la maggior parte delle organizzazioni non ha ancora costruito l’equivalente del pulsante di arresto, della linea telefonica e della porta che non si chiude su di te. Le aziende che progettano quei controlli nei loro sistemi saranno quelle il cui personale, clienti e regolatori entreranno e rimarranno.

I Fornitori Possono Portare Solo Parte di Ciò

Molti leader sperano che i loro fornitori di intelligenza artificiale portino l’onere della fiducia. I fornitori possono fornire salvaguardie e controlli di sicurezza a livello di modello, e quelli buoni lo fanno. Decidere se una particolare distribuzione è appropriata per i tuoi dati, le tue obbligazioni regolamentari, i tuoi clienti e la tua tolleranza al rischio rimane il tuo lavoro, perché il tuo fornitore non ha il contesto per farlo. Non hanno mai visto le tue obbligazioni e non hanno modo di valutare cosa costa loro un esito negativo.

L’impegno di sicurezza di un fornitore copre il loro modello, non il tuo utilizzo. Non è nemmeno permanente: come ha mostrato l’ultimo anno, quegli impegni possono essere rivisti o ritirati. I settori regolamentati hanno risolto questa questione molto tempo fa per i modelli di terze parti, e lo standard che hanno adottato è quello giusto: l’istituzione che distribuisce il modello possiede il rischio.

Cosa Stanno Facendo i Pochi

Le aziende che stanno avanzando stanno facendo tre mosse:

1. Stanno costruendo l’infrastruttura di controllo ora, dimensionata per la scala che intendono raggiungere piuttosto che per la scala in cui si trovano, perché i controlli devono esistere prima degli agenti che ne hanno bisogno.
2. Stanno incorporando la classificazione del rischio e la mitigazione all’inizio del processo di distribuzione piuttosto che come una porta di revisione alla fine, in modo che ogni caso d’uso sia classificato e i controlli siano proporzionati al rischio fin dal primo giorno.
3. E stanno istituendo una governance indipendente con autorità reale per verificare che questi sistemi si comportino come previsto, mantenuta abbastanza flessibile da evolversi con la tecnologia. L’indipendenza rende la verifica credibile. La flessibilità la mantiene aggiornata.

Vale la pena notare che pochi regolatori hanno stabilito regole esplicite intorno all’uso e alla supervisione dell’intelligenza artificiale generativa, ma ciò non significa che non abbiamo nulla a cui guardare per orientamento. I regolatori hanno regole ben stabilite per la gestione dei modelli tradizionali, e possiamo utilizzarle come guida. A aprile, la Federal Reserve, l’OCC e la FDIC hanno rilasciato linee guida aggiornate sui rischi dei modelli che riflettono decenni di pratica, un approccio basato sui principi che include inventari di modelli, controlli di rischio proporzionati all’esposizione, convalida indipendente, monitoraggio continuo e responsabilità aziendale per i prodotti dei fornitori, e hanno diretto le istituzioni ad applicare queste stesse pratiche all’intelligenza artificiale di loro iniziativa. Il messaggio è chiaro: i principi che funzionano sono noti, e le regole formali sull’intelligenza artificiale non stanno arrivando presto. Le aziende che aspettano chiarezza regolamentare saranno in attesa mentre i pochi agiscono. È per questo che i settori regolamentati, spesso descritti come lenti, entrano in questa era con un vantaggio. Hanno trascorso decenni costruendo esattamente la macchina della fiducia che tutti gli altri hanno bisogno ora, e non stanno aspettando il permesso per utilizzarla.

La Domanda che Conta

La divisione si sta già formando. La maggior parte delle aziende tratta la governance come un costo: qualcosa da assorbire, tollerare e minimizzare. I pochi la trattano come l’infrastruttura che consente loro di spostare le persone su lavoro di maggior valore e di scalare con fiducia. Ogni team di leadership è su un lato o sull’altro, che abbiano scelto deliberatamente o no, e il divario si sta accumulando silenziosamente prima della scala che lo esporrà. Nessuno pensa due volte a salire su un ascensore oggi, perché la fiducia è stata costruita in esso. Le aziende che fanno lo stesso per l’intelligenza artificiale scaleranno oltre tutti quelli che stanno ancora decidendo se entrare.