Leader di pensiero

Sì, l’AI Act dell’UE disciplina l’IA agentica: ecco come

Dr. Ley Muller Gyda Grodås Christiansen
Aggiungi Unite.AI alle tue fonti preferite su Google
Punti chiaveL'IA agentica rientra già nell'AI Act dell'UE perché soddisfa la definizione di sistema…
Vedi di più
  • L'IA agentica rientra già nell'AI Act dell'UE perché soddisfa la definizione di sistema di IA.
  • L'AI Act regolamenta ciò che la tecnologia fa e i rischi che crea anziché nominare tecnologie specifiche.
  • I giganti della tecnologia che fanno lobbying contro l'AI Act spingono per l'autoregolamentazione, che equivale a una cattura normativa.

Circola oggi una narrazione molto diffusa secondo cui l’IA agentica e gli agenti IA ricadrebbero in una sorta di vuoto normativo, perché l’AI Act dell’UE non sarebbe in grado di disciplinarli adeguatamente. Ne abbiamo letto su autorevoli testate norvegesi (Morgenbladet e Dagensnæringsliv) e abbiamo ritrovato la stessa tesi nelle parole di importanti accademici (Università di Oslo). In queste affermazioni ravvisiamo due errori fondamentali… e riteniamo che siano dettate dalla paura, non dai fatti.

Primo: l’IA agentica è disciplinata dall’AI Act dell’UE.

Secondo: affermazioni di questo tipo indeboliscono le norme esistenti. Rafforzano l’idea che le aziende di IA siano più adatte a gestire i rischi associati ai propri sistemi: un argomento ricorrente che favorisce la cattura normativa.

Lavoriamo a stretto contatto con l’AI Act in qualità di membri nominati del comitato nazionale per l’IA di Standards Norway. Facciamo inoltre parte dei comitati europei che elaborano norme armonizzate per i fornitori di sistemi di IA ad alto rischio; tali norme aiutano le aziende a soddisfare i requisiti giuridici dell’AI Act.

L’IA agentica è disciplinata in diversi modi dall’AI Act dell’UE

La Commissione europea ha pubblicato diverse FAQ chiare e di facile lettura sugli «agenti» e sull’«IA agentica» e ha precisato che sì, rientrano nell’ambito di applicazione del regolamento, semplicemente perché soddisfano la definizione più ampia di sistema di IA (Come vengono trattati gli agenti IA nell’AI Act? | Servizio di assistenza sull’AI Act). Ecco altri esempi:

  • L’IA agentica si basa spesso su modelli linguistici di grandi dimensioni, disciplinati in quanto modelli di IA per finalità generali.
  • Quando un sistema di IA agentica interagisce con le persone, si applicano anche i requisiti di trasparenza previsti dal regolamento.
  • Se un modello di IA è classificato come fonte di rischio sistemico, al fornitore si applicano requisiti aggiuntivi. Tra questi rientrano, fra le altre cose, valutazioni delle capacità del modello, comprese quelle autonome e agentiche.

L’AI Act non menziona la parola «agente», perché non disciplina specifiche tipologie di tecnologia. Regola invece le finalità per cui la tecnologia è progettata e i rischi associati a tali funzioni.

L’AI Act mira a tutelare i nostri diritti fondamentali

Molte critiche all’AI Act da parte di chi vorrebbe più regolamentazione derivano dall’impossibilità strutturale di eliminare ogni rischio. Tuttavia, sarebbe stato impossibile per un quadro normativo internazionale prevedere tutti i rischi futuri.

L’AI Act si concentra invece sui rischi posti dai sistemi di IA che potrebbero incidere sulla salute, sulla sicurezza e sui diritti fondamentali: lo afferma la prima frase del primo articolo.

È altrettanto fondamentale ciò che non abbiamo evidenziato in questa prima frase: l’AI Act è orientato al mercato. Mira a promuovere l’uso dell’IA e a sostenere l’innovazione. In altre parole, l’AI Act è favorevole all’IA. In questo quadro, determinate applicazioni e ambiti sono regolamentati.

Alcuni ambiti sono classificati preventivamente come ad alto rischio

Ecco alcuni esempi di sistemi di IA utilizzati in:

  • selezione del personale
  • assegnazione di servizi essenziali
  • dispositivi medici
  • sistemi integrati in infrastrutture critiche, dove la sicurezza è fondamentale.

I fornitori di sistemi di IA, agentici o meno, che potrebbero incidere sui nostri diritti sono tenuti a predisporre sistemi completi di gestione dei rischi, compresa la valutazione dei possibili usi impropri del sistema di IA da parte degli utenti.

Cattura normativa: quando i fornitori propongono l’autoregolamentazione

Se dessimo ascolto ad Anthropic, OpenAI e Meta, così come ad alcune voci del dibattito norvegese, potremmo avere l’impressione che l’IA e l’IA agentica siano troppo complesse per l’AI Act. Troppo avanzate per l’UE. Troppo pericolose per essere regolamentate da chiunque, se non dalle stesse aziende.

Dovremmo essere cauti quando le aziende tecnologiche più potenti al mondo, che hanno esercitato forti pressioni per un’attuazione meno rigorosa dell’AI Act, sostengono ora che il regolamento non sia adeguato a disciplinare i loro sistemi più potenti. La soluzione che propongono è «regolamentarsi» da sole.

È un classico meccanismo di cattura normativa: un processo in cui le leggi e le norme vengono gradualmente plasmate proprio dai soggetti che dovrebbero disciplinare, a loro vantaggio.

Gli Stati Uniti ne offrono un esempio lampante (Inaugurare l’era della superintelligenza – Casa Bianca). L’Accordo della Casa Bianca sulla superintelligenza è un «patto volontario» con i leader di X, Meta, Anthropic, OpenAI e Google, in base al quale queste aziende si impegnano ad autoregolamentarsi. Il documento osserva che le leggi potrebbero essere appropriate in un ipotetico momento futuro: «Col tempo, potrebbe essere opportuno codificare questi passaggi in leggi o regolamenti». Col tempo. Forse. Potrebbe essere ragionevole prendere in considerazione una regolamentazione.

Per ora, tuttavia, ci si aspetta che gli americani si fidino del fatto che queste grandi aziende tecnologiche si autoregolamenteranno.

A differenza degli Stati Uniti, l’Europa ha una legge vincolante: l’AI Act.

Eppure la cattura regolatoria resta un rischio, anche attraverso l’erosione della fiducia in questa legge. Se i giganti della tecnologia riuscissero a convincere le persone che l’AI Act non è abbastanza efficace, non ne sosterremmo più l’applicazione. Le affermazioni secondo cui l’IA agentica sarebbe troppo avanzata, intelligente o pericolosa perché l’AI Act possa disciplinarla sono argomenti che indeboliscono il nostro sostegno alla regolamentazione.

Una volta che la cattura regolatoria si è affermata, è difficile tornare indietro.

Condividiamo la preoccupazione che alcuni sistemi di IA possano avere conseguenze difficili da prevedere. Proprio per questo abbiamo bisogno di procedure di gestione del rischio, come richiede anche l’AI Act. (Il dott. Muller fa parte del comitato che sta per ultimare lo sviluppo della norma armonizzata per la gestione del rischio, 18228.)

L’AI Act dell’UE non è perfetto e probabilmente dovrà essere ulteriormente sviluppato. Tuttavia, presentare l’IA agentica come un ambito che esula dall’AI Act dell’UE alimenta soltanto l’incertezza, non la sicurezza.

La dott.ssa Ley Muller è specializzata nella governance etica dell’IA. Fa parte di comitati per la standardizzazione dell’IA e dirige anche una società di consulenza specializzata nella governance dell’IA, IA basata sui valori. Per metà del suo tempo aiuta i fornitori europei di IA a soddisfare i requisiti dell’AI Act; per l’altra metà, aiuta le grandi organizzazioni pubbliche a gestire l’uso dell’IA ombra e a promuovere un maggiore allineamento tra gli stakeholder sulle strategie di IA.

Gyda Grodås Christiansen è una consulente senior che si occupa di sanità digitale, informatica sanitaria e governance dell’intelligenza artificiale. Contribuisce alla normazione internazionale attraverso il Comitato tecnico congiunto 21 di CEN/CENELEC e Standard Norway. Il suo lavoro si concentra sull’interoperabilità, sui dati sanitari e sull’adozione responsabile dell’IA in ambito sanitario.