L’IA ha ancora bisogno di un allenatore e la supervisione umana ha bisogno di un playbook

L’IA è ovunque guardi, e il football professionistico non fa eccezione.

La NFL ha introdotto il Digital Athlete, che utilizza dati e IA per aiutare le squadre a identificare scenari in cui i giocatori potrebbero affrontare un rischio elevato di infortunio. Combina video e dati provenienti da allenamenti, sessioni di pratica e partite con milioni di simulazioni, offrendo a tutte le 32 squadre l’accesso a informazioni di tendenza a livello di lega. Gli allenatori e il personale di preparazione fisica usano poi queste informazioni per sviluppare programmi individualizzati di prevenzione degli infortuni, allenamento e recupero.

Sebbene la tecnologia legga il campo, gli allenatori sono ancora responsabili delle decisioni. Man mano che le organizzazioni ampliano l’uso dell’IA nei processi aziendali, comprese la conformità e le indagini sul luogo di lavoro, il potenziale di automazione sembra illimitato. Ma quali compiti dovrebbe svolgere l’IA, in quali condizioni e con quale supervisione umana?

È qui che un playbook organizzativo può impostare il tono: offrire agli allenatori i mezzi per sfruttare gli strumenti di IA mantenendo la supervisione umana dove conta.

Assegna all’IA una posizione anziché l’intero campo

Le indagini comprendono livelli di rischio variabili. L’IA può aiutare a organizzare le informazioni dai rapporti iniziali e:

• Identificare i dettagli mancanti
• Riassumere le informazioni in un rapporto finale
• Costruire linee temporali
• Evidenziare schemi che gli investigatori potrebbero voler esaminare più a fondo

Questi casi d’uso possono ridurre l’ordinamento manuale e liberare tempo per concentrarsi su lavori che richiedono giudizio umano.

Considerate che l’IA può riassumere un’accusa, ma non può decidere se sia credibile. L’IA può identificare un’incongruenza, ma non può determinare perché esista. È qui che le organizzazioni possono incorrere in problemi usando semplicemente l’IA senza salvaguardie.

Per mantenere la supervisione, l’IA ha bisogno di un ruolo definito. Le organizzazioni dovrebbero decidere:

• Le attività che il sistema deve svolgere
• Le informazioni a cui può accedere
• I limiti di ciò che è autorizzato a fare
• Le situazioni in cui una persona deve prendere il controllo

Il National Institute of Standards and Technology’s AI Risk Management Framework fornisce un utile punto di riferimento. La roadmap di NIST descrive i Profili AI RMF come un modo per dimostrare come il quadro possa essere applicato a settori, tecnologie, contesti o altri ambiti specifici. In altre parole, la governance responsabile dell’IA diventa più attuabile quando le organizzazioni traducono i principi generali nella realtà di un caso d’uso specifico.

Un playbook IA può fare qualcosa di simile a livello operativo. Definisce ruoli, situazioni e azioni con specificità.

La supervisione umana è un problema di progettazione del sistema

La frase “human in the loop” è diventata comune nelle discussioni sull’IA responsabile. Tuttavia, la presenza di una persona da qualche parte in un flusso di lavoro non rende automaticamente un sistema IA ben governato.

NIST ha identificato il human-AI teaming come un’area importante per la ricerca e le linee guida sulla gestione del rischio dell’IA. Tra le questioni evidenziate ci sono il modo in cui le persone interpretano i risultati prodotti dall’IA e come gli esseri umani supervisionano i sistemi IA operanti in ambienti reali.

La supervisione umana non dovrebbe essere considerata una soluzione temporanea fino a quando l’IA non diventa sufficientemente sofisticata da operare da sola. In molti ambienti ad alto rischio, fa parte dell’architettura necessaria per utilizzare l’IA in modo responsabile a lungo termine.

Un esame peer-reviewed della supervisione umana nella governance dell’IA osserva che i supervisori umani dovrebbero migliorare accuratezza e sicurezza per sostenere i valori umani e costruire fiducia. Tuttavia, gli esseri umani non sono sempre supervisori affidabili. Una supervisione efficace dipende da competenza, incentivi e dal design del ruolo di supervisione.

Per un investigatore, chiedere di approvare una raccomandazione generata dall’IA non è sufficiente se mancano le informazioni o l’autorità necessarie per contestarla. Il playbook deve definire non solo che un umano è coinvolto, ma come e quando quella persona può intervenire.

Il passaggio è importante quanto il modello

C’è un’altra sfida: anche quando un umano ha l’autorità finale, il modo in cui l’IA presenta le informazioni può influenzare la decisione successiva.

Uno studio preprint del 2025 di ricercatori dell’ University of California, Santa Barbara illustra perché il design dell’interfaccia è importante. In un esperimento controllato con 108 partecipanti in uno scenario decisionale sanitario, i ricercatori hanno testato sei forme di supporto decisionale IA. Hanno scoperto che meccanismi, tra cui informazioni sulla fiducia dell’IA, spiegazioni testuali e visualizzazioni delle prestazioni, hanno migliorato l’accuratezza delle decisioni uomo-IA nel loro esperimento.

Lo studio evidenzia anche il rischio del bias di automazione: le persone possono fare eccessivo affidamento sui suggerimenti dell’IA, anche se errati.

Questo esperimento dimostra perché il passaggio tra macchina e umano richiede un design deliberato e test.

Quando extrapoliamo ulteriormente e introduciamo il concetto di indagine, sorgono diverse domande:

• L’investigatore vede solo una conclusione generata dall’IA, o può esaminare le informazioni sottostanti?

• Il sistema può comunicare l’incertezza?

• È chiaro quando mancano informazioni?

• Gli investigatori possono rifiutare un output e documentare il motivo?

Queste sono domande di governance tanto quanto tecniche.

Cinque domande a cui ogni playbook IA dovrebbe rispondere

Un playbook IA utile dovrebbe trasformare principi astratti come “IA responsabile” e “supervisione umana” in regole operative concrete.

1. Cosa è consentito fare all’IA? Le organizzazioni dovrebbero autorizzare compiti specifici anziché concedere un permesso ampio di utilizzare l’IA in tutto il flusso di lavoro.
2. Quali informazioni può utilizzare? Per le indagini e le segnalazioni, le organizzazioni hanno bisogno di limiti chiari riguardo alle informazioni disponibili per un sistema IA e al modo in cui tali informazioni vengono gestite.
3. Come valuteranno le persone i suoi risultati? I revisori umani hanno bisogno di sufficiente contesto per comprendere ciò che il sistema ha prodotto, le sue limitazioni rilevanti e le informazioni necessarie per mettere in dubbio il risultato.
4. Quando deve intervenire un umano? Un playbook dovrebbe stabilire trigger di escalation anziché fare affidamento sui singoli dipendenti per decidere quando l’IA è andata troppo oltre.
5. Dove termina l’autorità dell’IA? Alcune decisioni dovrebbero richiedere il giudizio umano, e le persone responsabili di tali decisioni hanno bisogno di un’autorità reale per ignorare, sovrascrivere o fermare la tecnologia.

Queste idee sono riflesse in uno dei più importanti provvedimenti di regolamentazione dell’IA al mondo. Articolo 14 del Regolamento IA dell’UE stabilisce requisiti di supervisione umana per i sistemi IA che rientrano nella categoria ad alto rischio del Regolamento. Prevede che le misure di supervisione siano proporzionali ai rischi del sistema, alla sua autonomia e al contesto d’uso. Richiede inoltre che i supervisori siano in grado di comprendere le capacità e le limitazioni pertinenti, interpretare correttamente i risultati, rimanere vigili al bias di automazione, ignorare o sovrascrivere i risultati e intervenire o fermare un sistema.

Ciò non significa che ogni strumento IA utilizzato in un’indagine sia automaticamente un sistema ad alto rischio. Il quadro illustra un principio importante per la governance dell’IA. La supervisione umana deve fornire agli esseri umani capacità significative, non solo un posto nel flusso di lavoro.

L’IA non sostituisce l’allenatore. Cambia ciò che l’allenatore può vedere.

Il Digital Athlete della NFL è interessante non perché dimostri che l’IA può sostituire gli allenatori, ma perché mostra come una tecnologia sofisticata possa ampliare le informazioni disponibili per i professionisti esperti.

L’IA può aiutare le persone a gestire le informazioni, evidenziare ciò che merita attenzione e creare maggiore coerenza nei compiti ripetibili. Tuttavia, i momenti più decisivi in un’indagine spesso richiedono qualcosa di diverso: contesto, scetticismo, interpretazione e responsabilità.

Le organizzazioni meglio posizionate per beneficiare dell’IA chiederanno quindi più di quanto la tecnologia possa automatizzare. Definiranno cosa dovrebbe fare, cosa non dovrebbe fare e come gli esseri umani e l’IA dovrebbero collaborare.