Richieste crescenti per la regolamentazione dell’AI dopo settimane di notizie

Nelle ultime settimane, ci sono state richieste crescenti per una regolamentazione più forte dell’intelligenza artificiale (AI). La preoccupazione deriva da varie storie di notizie che hanno mostrato i potenziali abusi della tecnologia. Ora, vengono sollevate ancora più domande con l’uscita del molto atteso libro bianco sull’intelligenza artificiale della Commissione europea (UE), che è il primo tentativo pan-nazionale di regolamentare l’AI. All’incirca nello stesso periodo, l’Ufficio per la politica scientifica e tecnologica della Casa Bianca (OSTP) ha pubblicato un rapporto sulla sua Iniziativa americana per l’intelligenza artificiale.

Prima dell’uscita del libro bianco dell’UE, The Intercept ha pubblicato una notizia riguardante documenti interni dell’Unione europea trapelati. Secondo i documenti, l’UE stava considerando la creazione di una rete di database di riconoscimento facciale in tutta Europa. Le forze di polizia nazionali di 10 stati membri dell’UE hanno prodotto un rapporto che chiedeva la creazione e l’interconnessione dei database in ogni stato membro. Molti sono preoccupati che la creazione di tali database sarà inevitabilmente connessa con quelli simili negli Stati Uniti, consentendo la consolidazione di grandi quantità di dati biometrici. Molti si aspettavano che il libro bianco dell’UE proponesse un divieto di regolamentazione facciale, ma non c’era.

Secondo Edin Omanovic, direttore delle attività di advocacy per Privacy International, “Ciò è preoccupante a livello nazionale e a livello europeo, soprattutto poiché alcuni paesi dell’UE si stanno avvicinando a governi più autoritari”.

Una delle grandi storie di notizie delle ultime settimane, avviata da un’ indagine del New York Times a gennaio, riguarda la startup Clearview AI. L’app di riconoscimento facciale della società identifica le persone attraverso l’uso di un database di immagini prese dai social media. L’app confronta una foto con il database di oltre 3 miliardi di immagini provenienti da siti come Facebook, Venmo e Youtube. Una volta che l’app trova corrispondenze, risponde con collegamenti al sito in cui le foto sono state originariamente pubblicate. Questa tecnologia potrebbe portare alla scoperta di dettagli personali su un individuo. Secondo il rapporto, l’app è stata utilizzata da oltre 600 agenzie di applicazione della legge. Mentre il database di Clearview ha oltre 3 miliardi di immagini, il database dell’FBI contiene solo 641 milioni di immagini di cittadini statunitensi.

La storia è esplosa di nuovo con un nuovo rapporto di BuzzFeed News la scorsa settimana. Secondo il rapporto, la società ha considerato l’espansione oltre il solo uso da parte delle forze dell’ordine, con retail, immobiliare, banche e mercati internazionali in considerazione. Il rapporto ha anche affermato che l’app di riconoscimento facciale è già stata venduta a migliaia di organizzazioni in tutto il mondo e utilizzata dal Dipartimento della Giustizia, ICE, Macy’s, Walmart e la NBA. Forse il più problematico nell’elenco dei clienti è un fondo sovrano degli Emirati Arabi Uniti e migliaia di enti governativi.

I nuovi sviluppi hanno causato preoccupazioni tra i sostenitori della privacy riguardo a potenziali usi di sorveglianza di massa. Un’altra preoccupazione è la possibilità di inesattezza della tecnologia, portando le forze dell’ordine a prendere di mira individui innocenti. Oltre a tutte le preoccupazioni sulla privacy, società come Facebook, Google e Twitter stanno minacciando azioni legali. Oltre all’azione legale privata, almeno due senatori statunitensi hanno dichiarato di voler indagare sulla società.

Un esempio dell’abuso di questa tecnologia può essere visto all’interno dell’Agenzia per l’immigrazione e il controllo delle dogane degli Stati Uniti (ICE). The Washington Post ha riferito la scorsa settimana che funzionari dell’ICE sono stati autorizzati a utilizzare la tecnologia di riconoscimento facciale per cercare tra milioni di foto di patenti di guida del Maryland, e possono farlo senza richiedere l’approvazione statale o giudiziaria.

Secondo Harrison Rudolph, un associato senior alla Scuola di legge della Georgetown University, Centro sulla privacy e la tecnologia, “L’ICE sta utilizzando le informazioni biometriche all’ombra, senza notifica o approvazione pubblica, per cacciare le persone più vulnerabili”.

Questi sono solo alcuni degli esempi più pubblici di come questa tecnologia stia essere utilizzata, ma molto altro sta accadendo dietro le quinte. A causa di ciò, c’è stata un’aumentata richiesta di scrutinio e regolamentazione. Una maggiore trasparenza, sia volontaria che attraverso inchieste giornalistiche, sta portando molte pratiche alla luce. Senza che il pubblico abbia una comprensione dell’intelligenza artificiale e di ciò che potrebbe significare per l’economia, il governo, le forze dell’ordine, la sorveglianza e ogni altro aspetto della società, c’è poca speranza che i governi e le società si autoregolino. La società sta vedendo sia i enormi benefici dell’AI che le enormi preoccupazioni, con tutto ciò che sta accadendo troppo velocemente perché le società, i governi e gli individui possano stare al passo.