Regolamentazione
UE per lanciare le prime regolamentazioni sull’AI
Il 21 aprile, l’Unione Europea annuncerà il suo primo quadro regolamentare che disciplina l’uso dell’intelligenza artificiale. Le nuove regolamentazioni proibiranno completamente i sistemi di apprendimento automatico ‘ad alto rischio’ e introdurranno standard minimi per altre tecnologie di apprendimento automatico, imponendo penalità di 20 milioni di euro, o il 4% del fatturato aziendale, per le violazioni.
Un rapporto di bozza della nuova legge, ottenuto da Politico, cercherebbe di promuovere l’innovazione e lo sviluppo di sistemi di intelligenza artificiale per il beneficio generale dell’economia e della società dell’UE, in aree come la produzione, il miglioramento dell’efficienza energetica e la modellazione del cambiamento climatico; ma proibirebbe l’uso dell’apprendimento automatico nei sistemi di valutazione del credito, nella valutazione automatica delle pene e nella valutazione dell’idoneità per i benefici di sicurezza sociale e le domande di asilo o di visto, tra altre proibizioni che saranno rivelate in seguito.
La bozza afferma esplicitamente che i sistemi di valutazione sociale di stile cinese per individui e aziende sono in opposizione ai valori dell’Unione Europea e saranno proibiti ai sensi della regolamentazione, insieme alle tecnologie di ‘sorveglianza di massa’ alimentate dall’AI.
Controllo regolamentare
Successivamente alla sua nomina di un gruppo di esperti di alto livello sull’intelligenza artificiale nel marzo 2021, l’UE intende anche istituire un nuovo Consiglio europeo per l’intelligenza artificiale, con ogni stato membro rappresentato, insieme a un rappresentante della Commissione europea e dell’autorità di protezione dei dati dell’UE.
Forse il più importante e potenzialmente controverso editto nella bozza è che proibisce i sistemi che causano danni alle popolazioni dell’UE ‘manipolando il loro comportamento, le opinioni o le decisioni’, che arguirebbero molti tecnologie che alimentano l’analisi del marketing commerciale e politico.
Le regolamentazioni faranno eccezioni per la lotta contro la criminalità grave, consentendo l’uso prescritto di sistemi di riconoscimento facciale, entro i limiti di portata e durata di utilizzo.
Come con la ampia portata del GDPR, sembra che queste nuove regolamentazioni possano essere abbastanza generali da incitare un ‘effetto di raffreddamento’ in aree in cui non sono fornite linee guida strette per l’uso dell’AI, con aziende che rischiano di essere esposte laddove l’uso dell’apprendimento automatico cada in un’area grigia potenziale all’interno delle regolamentazioni.
Pregiudizio sotto le nuove regolamentazioni dell’UE sull’AI
Tuttavia, il più grande sfida e possibile vicolo legale giuridico deriva dalla disposizione della bozza di regolamentazione che i set di dati non ‘incorporino pregiudizi intenzionali o non intenzionali’ che possano facilitare la discriminazione.
Il pregiudizio dei dati è uno degli aspetti più impegnativi nello sviluppo di sistemi di apprendimento automatico – difficile da dimostrare, difficile da affrontare e profondamente legato alle culture centrali dei corpi di raccolta dei dati. La questione sta sempre più ponendo i corpi di ricerca privati e statali in una corrente incrociata tra la necessità di rappresentare con precisione gruppi distinti (praticamente l’obiettivo fondante della matematica computazionale e dell’analisi statistica empirica) e il potenziale di promuovere il profilo razziale e la demonizzazione culturale, tra le altre considerazioni.
Pertanto è probabile che i mercati non UE sperino che la nuova regolamentazione fornisca almeno alcune aree di orientamento specifiche e una gamma di definizioni applicabili a questo riguardo.
Resistenza esterna alla regolamentazione dell’AI dell’UE
La nuova regolamentazione avrà probabilmente un impatto profondo sulle ramificazioni giuridiche dell’uso dell’apprendimento automatico per analizzare i dati di pubblico accesso – nonché sui dati stessi, poiché sarà ancora possibile estrarre i dati dagli utenti web nell’era post-tracciamento attualmente introdotta da Apple, Firefox e (in misura minore), Chrome.
La giurisdizione potrebbe dover essere chiaramente definita, ad esempio nei casi in cui i giganti FAANG raccolgono dati utente in conformità con il GDPR, ma elaborano quei dati attraverso sistemi di apprendimento automatico al di fuori dell’Unione Europea. Non è chiaro se gli algoritmi derivati da tali sistemi potrebbero essere applicati a piattaforme all’interno dell’UE e ancor meno chiaro come tale applicazione potrebbe essere dimostrata.
Nel caso dell’uso dell’AI per informare le decisioni di custodia e la sentenza, una tendenza in crescita negli Stati Uniti, gli esperimenti occasionali del Regno Unito in questo settore sarebbero stati coperti dalle nuove regolamentazioni se il paese non fosse uscito dall’Unione Europea.
Nel 2020, una bozza di memorandum della Casa Bianca sulla regolamentazione dell’AI ha dichiarato il caso americano per una regolamentazione bassa dell’AI, affermando che ‘Le agenzie federali devono evitare azioni regolamentari o non regolamentari che ostacolino inutilmente l’innovazione e la crescita dell’AI’. Arguibile, questo atteggiamento sembra probabile che sopravviva all’amministrazione Trump, sotto la quale il memorandum è stato pubblicato, ma riflette piuttosto l’abrasione imminente tra gli Stati Uniti e l’UE in seguito alla nuova regolamentazione.
Allo stesso modo, il ‘Piano per l’AI’ del Consiglio per l’AI del Regno Unito esprime un grande entusiasmo per i benefici economici dell’adozione dell’AI, ma una preoccupazione generale che le nuove regolamentazioni non debbano essere consentite di ostacolare questo progresso.
La prima vera legge per l’AI
L’impegno dell’UE per una posizione giuridica sull’AI è innovativo. Gli ultimi dieci anni sono stati caratterizzati da una tempesta di documenti bianchi e risultanze preliminari di comitati e raccomandazioni da parte dei governi di tutto il mondo, concentrandosi sull’etica dell’AI, con poche leggi effettive che sono state approvate.
Distribuzione geografica degli emittenti di linee guida etiche sull’AI per numero di documenti rilasciati, in un sondaggio del 2019. Il numero più alto di linee guida etiche è stato rilasciato negli Stati Uniti e all’interno dell’Unione Europea, seguito dal Regno Unito e dal Giappone. Canada, Islanda, Norvegia, Emirati Arabi Uniti, India, Singapore, Corea del Sud, Australia sono rappresentati con 1 documento ciascuno. Avendo contribuito a una specifica dichiarazione del G7, gli stati membri dei paesi del G7 sono evidenziati separatamente. Fonte: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
Ulteriori letture
