I difetti del progetto di legge dell’Unione Europea sull’intelligenza artificiale

Una nuova critica giuridica del progetto di legge dell’Unione Europea sull’intelligenza artificiale solleva una serie di critiche alle proposte di regolamentazione pubblicate ad aprile, concludendo che gran parte del documento è “cucita insieme” da regolamentazioni dei consumatori degli anni ’80 scarsamente applicabili; che in realtà promuove un ambiente di intelligenza artificiale deregolamentato in Europa, piuttosto che sottoporre il settore a una regolamentazione coerente; e – tra una serie di altre critiche – che le proposte delineano un quadro regolamentare dell’intelligenza artificiale futuro che ha “poco senso e impatto”.

Intitolato Demistificare il progetto di legge dell’Unione Europea sull’intelligenza artificiale, il pre-stampa è una collaborazione tra ricercatori dell’UCL di Londra e dell’Università Radboud di Nimega.

Il documento aggiunge a un crescente corpo di opinioni negative sulle proposte di attuazione (piuttosto che sull’intento ampiamente ammirato) di un quadro regolamentare dell’intelligenza artificiale, compresa l’affermazione di aprile di uno dei contributori del progetto di regolamentazione che le linee guida proposte sono “tiepide, miopi e deliberatamente vaghe”, che ha caratterizzato il documento della Commissione Europea come un sostenitore di “etica fasulla”.

Sistemi di intelligenza artificiale manipolativi

Il nuovo documento sostiene che le restrizioni proposte dal progetto di legge sull’intelligenza artificiale sui “sistemi manipolativi” sono ostacolate da una definizione vaga e addirittura contraddittoria di “danno”, commentando che “[u]n cinico potrebbe pensare che la Commissione sia più interessata al valore retorico delle proibizioni che al loro effetto pratico”.

Le proposte di regolamentazione delineano due pratiche proibite presunte:

(a) la messa sul mercato, la messa in servizio o l’uso di un sistema di intelligenza artificiale che utilizza tecniche subliminali al di là della coscienza di una persona per distorcere materialmente il comportamento di una persona in modo da causare o essere suscettibile di causare danno fisico o psicologico a quella persona o a un’altra persona;

(b) la messa sul mercato, la messa in servizio o l’uso di un sistema di intelligenza artificiale che sfrutta le vulnerabilità di un gruppo specifico di persone a causa della loro età, disabilità fisica o mentale, per distorcere materialmente il comportamento di una persona appartenente a quel gruppo in modo da causare o essere suscettibile di causare danno fisico o psicologico a quella persona o a un’altra persona;

I ricercatori sostengono che queste restrizioni non affrontano se i servizi o il software di un fornitore di intelligenza artificiale siano efficaci nel raggiungere i propri obiettivi, ma solo se l’utente finale subisce “danno” nel processo. Aggiungono che la definizione di danno nel progetto di legge è fatalmente limitata agli utenti individuali, piuttosto che al tipo di danno collettivo o sociale che può essere ragionevolmente inferito da una serie di controversie sull’intelligenza artificiale degli ultimi anni, come il caso di Cambridge Analytica.

Il documento osserva che “Nella vita reale, il danno può accumularsi senza che un singolo evento superi la soglia di gravità, rendendolo difficile da dimostrare”.

Sistemi di intelligenza artificiale dannosi consentiti, ma non per il consumo dell’UE

Il progetto di legge sull’intelligenza artificiale propone di implementare un divieto sui sistemi biometrici in tempo reale negli spazi pubblici da parte delle forze dell’ordine. Sebbene alcune critiche pubbliche siano state rivolte alle eccezioni che le proposte fanno per il terrorismo, la tratta di bambini e la richiesta di un mandato di arresto europeo, i ricercatori notano anche che nulla impedirebbe ai fornitori di vendere sistemi biometrici contravvenenti a regimi oppressivi.

Il documento osserva che ciò è già una pratica storica, come rivelato in un rapporto del 2020 di Amnesty International.

Afferma inoltre che la specificazione del progetto di legge sull’intelligenza artificiale di “sistema biometrico in tempo reale” è arbitraria e esclude i sistemi di analisi offline, come l’elaborazione successiva di filmati di eventi di protesta.

Inoltre, si osserva che le proposte non offrono alcun meccanismo per limitare i sistemi biometrici che non sono relativi alle forze dell’ordine, che invece sono pigramente rinviati al GDPR; e che il GDPR stesso “stabilisce un requisito di consenso di alta qualità, individuale per ogni persona scansionata, che è effettivamente impossibile da soddisfare”.

La formulazione di questa sezione del progetto di legge sull’intelligenza artificiale è anche criticata dai ricercatori. Il progetto di legge stabilisce che sarà richiesta un’autorizzazione preventiva per la messa in funzione di sistemi biometrici per l’uso “individuale” delle autorità competenti – ma non chiarisce cosa significhi “uso individuale” in questo contesto. Il documento nota che i mandati controversi possono essere tematici, e riguardare organizzazioni, scopi e luoghi ampi.

Inoltre, il progetto di legge non stabilisce un meccanismo di trasparenza per il numero e il tipo di autorizzazioni rilasciate, rendendo difficile la verifica pubblica.

Esternalizzazione della regolamentazione agli “standard armonizzati”

La ricerca afferma che le entità più importanti nel progetto di legge sull’intelligenza artificiale non sono menzionate nemmeno una volta nel progetto di regolamentazione: CEN (Comitato europeo per la standardizzazione) e CENELEC (Comitato europeo per la standardizzazione elettrica) – due delle tre Organizzazioni europee di standardizzazione (ESO) che la Commissione europea può incaricare di formulare standard armonizzati, che in molti casi rimarranno i quadri regolamentari di governo per determinati tipi di servizi e distribuzioni di intelligenza artificiale.

Ciò significa essenzialmente che i produttori di intelligenza artificiale possono scegliere di seguire gli standard di regolamentazioni che sono in realtà in competizione piuttosto che complementari, invece di soddisfare i requisiti essenziali delineati nel progetto di legge sull’intelligenza artificiale. Ciò consente ai fornitori di interpretare più liberamente le proposte di regolamentazione quando entreranno in vigore nel 2024-5.

I ricercatori del documento sostengono anche che gli anni di lobbying industriale tra gli organismi di standardizzazione sono probabilmente destinati a ridefinire notevolmente questi “standard essenziali”, e suggeriscono che le “regolamentazioni ideali” dovrebbero iniziare a un livello più alto di etica e chiarezza legislativa, se solo per tenere conto di questo inevitabile processo di erosione.

Legittimazione della fallacia dei sistemi di riconoscimento delle emozioni

Il progetto di legge sull’intelligenza artificiale prevede disposizioni contro la messa in funzione di sistemi di riconoscimento e categorizzazione delle emozioni – quadri che potrebbero non identificare necessariamente un individuo, ma che affermano di comprendere cosa stanno provando o di essere in grado di categorizzarli in termini di genere, etnia e vari altri indicatori economici e sociali.

I ricercatori sostengono che questa clausola è inutile, poiché il GDPR già obbliga i fornitori di tali sistemi a fornire agli utenti informazioni chiare sull’uso di tali sistemi, in modo che gli utenti possano optare per non utilizzare un servizio online o non entrare in un’area in cui tali sistemi sono annunciati.

Inoltre, il documento afferma che questa clausola legittima una tecnologia smentita e procede a caratterizzare sistemi di riconoscimento delle emozioni di tipo FACS alla luce della storia vergognosa della frenologia e di altri approcci quasi sciamanici alla categorizzazione sociale dell’era industriale precoce.

‘Coloro che affermano di rilevare le emozioni utilizzano tassonomie semplificate, discutibili; assumono erroneamente l’universalità attraverso culture e contesti; e rischiano di “tornare al passato frenologico” di analizzare i tratti del carattere dalle strutture facciali. Le disposizioni del progetto di legge sull’intelligenza artificiale relative al riconoscimento delle emozioni e alla categorizzazione biometrica sembrano insufficienti per mitigare i rischi.’

Una proposta troppo modesta

Oltre a queste, i ricercatori affrontano altre carenze percepite nel progetto di legge sull’intelligenza artificiale in relazione alla regolamentazione dei deepfake, alla mancanza di supervisione per le emissioni di carbonio dei sistemi di intelligenza artificiale, alla duplicazione della supervisione regolamentare con altri quadri, e alla definizione inadeguata di entità giuridiche perseguibili.

Essi esortano i legislatori e gli attivisti civili a prendere azione per risolvere i problemi identificati e notano inoltre che anche la loro estensiva decostruzione del progetto di regolamentazione ha dovuto omettere molte altre aree di preoccupazione a causa della mancanza di spazio.

Tuttavia, il documento elogia il tentativo pionieristico del progetto di legge di introdurre un sistema di regolamentazione orizzontale dei sistemi di intelligenza artificiale, citando i suoi molti “elementi sensati”, come la creazione di una gerarchia di livelli di valutazione del rischio, l’impegno a introdurre proibizioni e la proposta di un database pubblico di sistemi ai quali i fornitori dovrebbero contribuire per ottenere legittimità europea, sebbene noti le questioni giuridiche che questo requisito successivo è probabile sollevare.