Preoccupazioni sui potenziali rischi di ChatGPT stanno guadagnando slancio, ma una pausa sull’AI è una mossa giusta?

Mentre Elon Musk e altri leader tecnologici globali hanno chiesto una pausa nell’AI dopo il rilascio di ChatGPT, alcuni critici ritengono che una sospensione dello sviluppo non sia la risposta. L’evangelista dell’AI Andrew Pery, della società di automazione intelligente ABBYY, ritiene che fare una pausa sia come cercare di rimettere il dentifricio nel tubo. Ecco, ci spiega perché…

Le applicazioni di intelligenza artificiale sono onnipresenti, influenzando quasi ogni aspetto della nostra vita. Sebbene sia lodevole, mettere i freni adesso potrebbe essere impraticabile.

Ci sono certamente preoccupazioni palpabili che richiedono un aumento della vigilanza normativa per contenere i suoi potenziali impatti dannosi.

Recentemente, l’Autorità per la protezione dei dati italiani ha bloccato temporaneamente l’uso di ChatGPT in tutto il paese a causa di preoccupazioni relative alla privacy legate al modo di raccolta e trattamento dei dati personali utilizzati per addestrare il modello, nonché alla mancanza apparente di salvaguardie, esponendo i bambini a risposte “assolutamente inadeguate alla loro età e consapevolezza”.

L’Organizzazione dei consumatori europei (BEUC) sta esortando l’UE a indagare sugli impatti potenzialmente dannosi dei modelli linguistici su larga scala, considerando “le preoccupazioni crescenti su come ChatGPT e chatbot simili possano ingannare e manipolare le persone. Questi sistemi di intelligenza artificiale necessitano di una maggiore attenzione pubblica e le autorità pubbliche devono riaffermare il controllo su di essi”.

Negli Stati Uniti, il Center for AI and Digital Policy ha presentato una denuncia alla Federal Trade Commission secondo cui ChatGPT viola la sezione 5 del Federal Trade Commission Act (FTC Act) (15 USC 45). La base della denuncia è che ChatGPT non rispetta le linee guida stabilite dalla FTC per la trasparenza e la spiegabilità dei sistemi di intelligenza artificiale. Si fa riferimento alle dichiarazioni di ChatGPT su diversi rischi noti, tra cui la compromissione dei diritti alla privacy, la generazione di contenuti dannosi e la diffusione di disinformazione.

L’utilità dei modelli linguistici su larga scala come ChatGPT, nonostante la ricerca, mette in luce il suo lato oscuro. È stato dimostrato che produce risposte errate, poiché il modello sottostante di ChatGPT si basa su algoritmi di apprendimento profondo che sfruttano grandi set di dati di addestramento da Internet. A differenza di altri chatbot, ChatGPT utilizza modelli linguistici basati su tecniche di apprendimento profondo che generano testi simili a conversazioni umane, e la piattaforma “arriva a una risposta facendo una serie di ipotesi, il che è parte del motivo per cui può sostenere risposte errate come se fossero completamente vere”.

Inoltre, ChatGPT è stato dimostrato accentuare e amplificare i pregiudizi, portando a “risposte che discriminano il genere, la razza e i gruppi minoritari, qualcosa che la società sta cercando di mitigare”. ChatGPT potrebbe anche essere un’opportunità per gli attori malintenzionati di sfruttare gli utenti inesperti, compromettendo la loro privacy ed esponendoli a attacchi truffaldini.

Queste preoccupazioni hanno spinto il Parlamento europeo a pubblicare un commento che rafforza la necessità di rafforzare ulteriormente le disposizioni attuali del progetto di legge sull’intelligenza artificiale dell’UE (AIA), che è ancora in attesa di ratifica. Il commento sottolinea che il progetto di regolamento attuale si concentra su ciò che viene definito come applicazioni di intelligenza artificiale a scopo specifico, che consistono in categorie specifiche di sistemi di intelligenza artificiale ad alto rischio, come il reclutamento, la valutazione del merito di credito, l’occupazione, l’applicazione della legge e l’idoneità per i servizi sociali. Tuttavia, il progetto di regolamento AIA dell’UE non copre l’intelligenza artificiale a scopo generale, come i modelli linguistici su larga scala che forniscono capacità cognitive avanzate e che possono “eseguire una vasta gamma di compiti intelligenti”. Ci sono richieste di estendere l’ambito del progetto di regolamento per includere una categoria separata di sistemi di intelligenza artificiale a scopo generale ad alto rischio, che richiederebbero ai sviluppatori di effettuare rigorosi test di conformità prima di immettere tali sistemi sul mercato e di monitorarne continuamente le prestazioni per possibili risultati dannosi imprevisti.

Una ricerca particolarmente utile mette in evidenza questa lacuna che il regolamento AIA dell’UE è “primariamente focalizzato su modelli di intelligenza artificiale convenzionali e non sulla nuova generazione di cui stiamo assistendo alla nascita oggi”.

Si raccomandano quattro strategie che i regolatori dovrebbero considerare.

1. Richiedere ai sviluppatori di tali sistemi di riferire regolarmente sull’efficacia dei loro processi di gestione del rischio per mitigare gli output dannosi.
2. Le aziende che utilizzano modelli linguistici su larga scala dovrebbero essere obbligate a comunicare ai loro clienti che il contenuto è stato generato dall’AI.
3. I sviluppatori dovrebbero aderire a un processo formale di rilasci graduati, come parte di un quadro di gestione del rischio, progettato per salvaguardare contro esiti dannosi potenzialmente imprevisti.
4. Porre l’onere sui sviluppatori di “mitigare il rischio alla radice” effettuando un’auditing proattivo del set di dati di addestramento per rappresentazioni errate.

Un fattore che perpetua i rischi associati alle tecnologie innovative è la spinta degli innovatori a raggiungere il vantaggio del primo muoversi adottando un modello di business “immetti prima e sistema dopo”. Sebbene OpenAI sia abbastanza trasparente sui potenziali rischi di ChatGPT, lo ha rilasciato per un uso commerciale ampio con un onere “acquirente avvisato” sui utenti di valutare e assumere i rischi da soli. Ciò potrebbe essere un approccio insostenibile data l’impatto pervasivo dei sistemi di intelligenza artificiale conversazionale. Una regolamentazione proattiva accoppiata a misure di applicazione robuste deve essere fondamentale nel trattare una tecnologia così innovativa.

L’intelligenza artificiale già permea quasi ogni parte della nostra vita, il che significa che una pausa nello sviluppo dell’AI potrebbe implicare una moltitudine di ostacoli e conseguenze impreviste. Invece di azionare improvvisamente i freni, i giocatori dell’industria e della legislazione dovrebbero collaborare in buona fede per attuare regolamentazioni efficaci radicate in valori umani come la trasparenza, la responsabilità e l’equità. Facendo riferimento a legislazioni esistenti come l’AIA, i leader dei settori privati e pubblici possono progettare politiche globale e standardizzate che preverranno usi malintenzionati e mitigano esiti avversi, mantenendo così l’intelligenza artificiale entro i confini dell’miglioramento delle esperienze umane.