Muoversi Velocemente, Ma Non Rompere Le Cose: Come Bilanciare L’adozione Di AI Responsabile E L’innovazione

Secondo un recente sondaggio globale di McKinsey, anche se il 78% delle organizzazioni utilizza ora l’AI in almeno una funzione aziendale, solo il 13% ha assunto specialisti di conformità AI e solo il 6% ha specialisti di etica AI.

Questo è, francamente, un comportamento irresponsabile.

Sebbene nel mio passato non troppo lontano fossi un grande sostenitore dell’etica “muoversi velocemente e rompere le cose” della Silicon Valley, non possiamo permetterci di essere così spensierati con l’AI – una tecnologia più potente di qualsiasi altra cosa che abbiamo visto prima e che cresce a una velocità impressionante.

Adottare l’AI senza alcun significativo sistema di protezione è esattamente il tipo di azione veloce e taglio agli angoli che è garantito per tornare a galla e rischiare di rompere tutto. Basta un solo incidente di pregiudizio o cattivo uso dell’AI per annullare anni di costruzione della reputazione del marchio.

E sebbene molti CIO e CTO siano consapevoli di questi rischi, sembrano operare sotto l’assunzione che i regolatori alla fine interverranno e li salveranno dall’istituzione dei propri quadri, risultando in molte discussioni sui rischi con molto poca sorveglianza effettiva.

Mentre non ho dubbi che le regolamentazioni alla fine arriveranno, sono meno sicuro che saranno stabilite presto. ChatGPT è stato introdotto circa tre anni fa e stiamo solo iniziando a vedere cose come l’incontro del Senato Giudiziario su chatbot e rischi per la sicurezza avere luogo. La realtà è che potrebbe essere anni prima di vedere alcuna regolamentazione significativa.

Piuttosto che prendere questo come una scusa per procrastinare sulla governance interna, questo dovrebbe spingere le imprese a prendere un approccio più proattivo. Specialmente considerando che quando le regolamentazioni finalmente arriveranno, le aziende senza i propri quadri saranno costrette a ritagliare la conformità. Questo è esattamente ciò che è successo quando GDPR e CCPA sono stati promulgati.

Proprio come le startup coraggiose dei primi anni 2000 sono ora tenute a standard più alti come i giganti tecnologici aziendali in cui sono cresciute, dobbiamo collettivamente maturare nel nostro approccio all’adozione responsabile dell’AI.

Non c’è “compra ora e paga dopo” con i dispiegamenti di AI responsabili – inizia ora

Il primo passo in un approccio più responsabile all’AI è smettere di aspettare i regolatori e stabilire le proprie regole. Qualsiasi vantaggio che potresti pensare di ottenere evitando le salvaguardie oggi ti tornerà a galla in futuro quando ti troverai di fronte al processo estremamente costoso e disastroso di ritagliare la conformità.

Naturalmente, per molti, il problema è non sapere da dove iniziare. La mia azienda ha recentemente condotto un sondaggio su 500 CIO e CTO di grandi imprese e quasi la metà (48%) ha citato “determinare cosa costituisce un uso o dispiegamento responsabile di AI” come una sfida per garantire l’uso etico dell’AI.

Un posto facile per iniziare è ampliare la propria attenzione oltre le sole funzionalità rese possibili dall’AI e considerare i possibili rischi. Ad esempio, sebbene l’uso dell’AI possa risparmiare tempo ai dipendenti, apre anche la possibilità di condividere enormi quantità di dati di informazioni personali (PII) o segreti commerciali con LLM non autorizzati e non approvati.

Qualsiasi azienda digitale oggi è familiare con il Ciclo di Vita dello Sviluppo del Software (SDLC), che fornisce un quadro per la costruzione di prodotti di qualità. Le migliori pratiche di governance dell’AI dovrebbero essere incorporate in quel flusso di lavoro quotidiano per garantire che la presa di decisioni responsabile diventi parte della routine, non un ripensamento.

Un organo di governance, come un comitato etico o un consiglio di amministrazione, dovrebbe essere istituito per definire gli standard su cosa le applicazioni dell’AI assomigliano all’interno dell’organizzazione e definire le metriche per monitorare e mantenere quegli standard. Funzionalmente, questo si traduce in strumenti e governance dei modelli di AI, approvazioni delle soluzioni, gestione dei rischi, allineamento normativo e standard, e comunicazione trasparente. Sebbene tecnicamente possa essere un “nuovo” processo, non è molto diverso dalle migliori pratiche per i dati e dal mantenimento della sicurezza informatica e può essere automatizzato per garantire la rilevazione precoce di eventuali problemi.

Naturalmente, non tutti i rischi richiedono lo stesso livello di attenzione, quindi è anche importante sviluppare un processo di gestione dei rischi a più livelli in modo che il proprio team possa concentrare la maggior parte dei propri sforzi su ciò che è stato definito come alta priorità.

Infine, e più importante, una comunicazione chiara e trasparente sulle pratiche di governance sia all’interno che all’esterno è fondamentale. Ciò include il mantenimento di documenti viventi per gli standard di governance e la fornitura di formazione continua per tenere i team aggiornati.

Smetti di trattare la governance come una minaccia all’innovazione

È molto possibile che la vera minaccia all’AI responsabile sia la convinzione che la governance e l’innovazione siano in conflitto tra loro. I nostri dati di sondaggio hanno riflesso un impressionante 87% di CIO e CTO che ritengono che troppa regolamentazione limiterebbe l’innovazione.

Ma la governance dovrebbe essere trattata come un partner strategico, non come una sorta di freno all’innovazione.

Un motivo per cui la governance è vista come una forza di attrito che rallenta il momentum è che spesso viene lasciata per la fine dello sviluppo del prodotto, ma le protezioni dovrebbero essere parte del processo. Come menzionato sopra, la governance può essere costruita nei cicli di sprint in modo che un team di prodotto possa muoversi rapidamente, mentre i controlli automatizzati per la correttezza, il pregiudizio e la conformità sono in esecuzione in parallelo. A lungo termine, questo si ripaga poiché i clienti, i dipendenti e i regolatori si sentono più fiduciosi quando vedono la responsabilità costruita fin dall’inizio.

E questo è stato dimostrato ripagare finanziariamente. La ricerca ha mostrato che le organizzazioni con quadri di governance dei dati e dell’AI ben implementati sperimentano un miglioramento del 21-49% delle prestazioni finanziarie. Un fallimento nell’istituzione di questi quadri, tuttavia, viene con le proprie conseguenze. Secondo quel stesso studio, entro il 2027, la maggior parte delle organizzazioni (60%) “non riuscirà a realizzare il valore anticipato dell’uso dell’AI a causa di quadri di governance etica incoerenti”.

Un caveat all’argomento che la governance non deve venire a scapito dell’innovazione è che i team legali che si occupano di queste conversazioni tendono a rallentare le cose. Tuttavia, stabilire un team di Governance, Risk e Compliance (GRC) va a lungo nel mantenere le cose in esecuzione liscia e veloce, servendo come un ponte tra i team legali e di prodotto.

Quando gestito bene, il team GRC costruisce relazioni positive con il team legale, servendo come i loro occhi sul terreno e fornendo loro i rapporti di cui hanno bisogno, mentre collabora con il team di sviluppo per mitigare i futuri rischi di azioni legali e multe. In definitiva, questo rafforza ulteriormente che investire nella governance fin dall’inizio è il modo migliore per garantire che non interferisca con l’innovazione.

Creare sistemi di governance e sorveglianza che possano scalare

Nonostante molti dei CIO e CTO intervistati ritengano che le regolamentazioni potrebbero limitare l’innovazione, una percentuale altrettanto grande (84%) prevede che la propria azienda aumenterà la sorveglianza dell’AI nei prossimi 12 mesi. Considerando la probabilità che le integrazioni dell’AI continuino a espandersi e a scalare nel tempo, è altrettanto importante che i sistemi di governance possano scalare insieme.

Qualcosa che vedo spesso nelle fasi iniziali delle implementazioni dell’AI all’interno delle aziende è che diverse unità all’interno dell’azienda lavorano in silos in modo che eseguano dispiegamenti diversi contemporaneamente e con diverse visioni di cosa significhi “AI responsabile”. Per evitare queste incoerenze, le aziende sarebbero sagge a istituire un centro di eccellenza dedicato all’AI che combini competenze tecniche, di conformità e aziendali.

Il Centro di Eccellenza dell’AI stabilirebbe standard aziendali e processi di approvazione a più livelli in cui c’è un percorso per i casi di uso a basso rischio. Ciò mantiene la velocità mentre assicura che i dispiegamenti ad alto rischio passino attraverso controlli di sicurezza più formali. Allo stesso modo, il Centro di Eccellenza dovrebbe anche stabilire indicatori di sicurezza dell’AI per i dirigenti di alto livello in modo che la responsabilità non si perda nelle funzioni aziendali quotidiane.

Ma per rendere questo una realtà, i dirigenti hanno bisogno di una visibilità migliorata nella tracciabilità degli indicatori di governance. I dashboard che forniscono dati in tempo reale su questi indicatori sarebbero molto più efficaci delle attuali relazioni di conformità statiche che sono immediatamente obsolete e spesso non lette. Idealmente, le aziende costruirebbero anche registri di rischi dell’AI, allo stesso modo in cui già tracciano i rischi per la sicurezza informatica, oltre a mantenere tracce di audit che riflettono chi ha costruito un’implementazione di ML/AI, come è stata testata e come si sta eseguendo nel tempo.

La cosa più importante da ricordare qui è che l’AI responsabile richiede che la governance sia un processo in corso. Non si tratta solo di approvazioni al lancio, ma di monitoraggio continuo durante l’intero ciclo di vita del modello. Poiché tale formazione è fondamentale, gli sviluppatori, i tecnologi e i leader aziendali dovrebbero essere formati sulle pratiche di AI responsabile in modo che possano individuare i problemi precocemente e mantenere alti standard di governance mentre i sistemi evolvono. Facendo ciò, i dispiegamenti di AI saranno più affidabili, efficaci e redditizi – senza dover rompere nulla nel processo.