Leader di pensiero
Preoccupazioni sui potenziali rischi di ChatGPT stanno guadagnando slancio, ma una pausa sull’AI è una mossa giusta?
Mentre Elon Musk e altri leader tecnologici globali hanno chiesto una pausa nell’AI dopo il rilascio di ChatGPT, alcuni critici ritengono che una sospensione dello sviluppo non sia la risposta. L’evangelista dell’AI Andrew Pery, della società di automazione intelligente ABBYY, ritiene che fare una pausa sia come cercare di rimettere il dentifricio nel tubo. Ecco, ci spiega perché…
Le applicazioni di intelligenza artificiale sono onnipresenti, influenzando virtualmente ogni aspetto della nostra vita. Sebbene sia lodevole, mettere i freni adesso potrebbe essere implausibile.
Ci sono certamente preoccupazioni palpabili che richiedono un aumento della vigilanza normativa per contenere i suoi potenziali impatti dannosi.
Recentemente, l’Autorità per la protezione dei dati italiani ha bloccato temporaneamente l’uso di ChatGPT in tutto il paese a causa di preoccupazioni relative alla privacy legate al modo di raccolta e di elaborazione dei dati personali utilizzati per addestrare il modello, nonché alla mancanza apparente di salvaguardie, esponendo i bambini a risposte “assolutamente inadeguate alla loro età e consapevolezza”.
L’Organizzazione dei consumatori europei (BEUC) sta sollecitando l’UE a indagare sugli impatti potenzialmente dannosi dei modelli linguistici di larga scala, dati “i crescenti timori su come ChatGPT e chatbot simili possano ingannare e manipolare le persone. Questi sistemi di intelligenza artificiale necessitano di una maggiore attenzione pubblica e le autorità pubbliche devono riaffermare il controllo su di essi”.
Negli Stati Uniti, il Center for AI and Digital Policy ha presentato una denuncia alla Federal Trade Commission che ChatGPT viola la sezione 5 della legge sulla Federal Trade Commission (FTC Act) (15 USC 45). La base della denuncia è che ChatGPT non rispetta le linee guida stabilite dalla FTC per la trasparenza e la spiegabilità dei sistemi di intelligenza artificiale. Si fa riferimento alle dichiarazioni di ChatGPT su diversi rischi noti, tra cui la compromissione dei diritti alla privacy, la generazione di contenuti dannosi e la diffusione di disinformazione.
L’utilità dei modelli linguistici di larga scala come ChatGPT, nonostante la ricerca, mette in luce il suo potenziale lato oscuro. È stato dimostrato che produce risposte errate, poiché il modello ChatGPT sottostante si basa su algoritmi di apprendimento profondo che sfruttano grandi set di dati di addestramento da Internet. A differenza di altri chatbot, ChatGPT utilizza modelli linguistici basati su tecniche di apprendimento profondo che generano testi simili alle conversazioni umane e la piattaforma “arriva a una risposta facendo una serie di ipotesi, il che è parte del motivo per cui può argomentare risposte errate come se fossero completamente vere”.
Inoltre, ChatGPT è stato dimostrato accentuare e amplificare i pregiudizi, portando a “risposte che discriminano il genere, la razza e i gruppi minoritari, qualcosa che l’azienda sta cercando di mitigare”. ChatGPT potrebbe anche essere un’opportunità per attori malintenzionati di sfruttare utenti inesperti, compromettendo la loro privacy e esponendoli a attacchi truffa.
Queste preoccupazioni hanno spinto il Parlamento europeo a pubblicare un commento che rafforza la necessità di rafforzare ulteriormente le disposizioni attuali del progetto di legge sull’intelligenza artificiale dell’UE, (AIA) che è ancora in attesa di ratifica. Il commento sottolinea che il progetto di regolamento attuale si concentra su ciò che viene definito come applicazioni di intelligenza artificiale a scopo specifico, consistenti in categorie specifiche di sistemi di intelligenza artificiale ad alto rischio come il reclutamento, la valutazione del credito, l’occupazione, l’applicazione della legge e l’idoneità per i servizi sociali. Tuttavia, il regolamento AIA dell’UE non copre l’intelligenza artificiale generale, come i modelli linguistici di larga scala che forniscono capacità cognitive più avanzate e che possono “eseguire una vasta gamma di compiti intelligenti”. Ci sono richieste di estendere l’ambito del regolamento per includere una categoria separata di sistemi di intelligenza artificiale generale ad alto rischio, che richiede ai sviluppatori di eseguire test di conformità rigorosi prima di immettere tali sistemi sul mercato e di monitorarne continuamente le prestazioni per potenziali output dannosi inaspettati.
Un particolarmente utile pezzo di ricerca attira l’attenzione su questa lacuna che il regolamento AIA dell’UE è “primariamente focalizzato su modelli di intelligenza artificiale convenzionali e non sulla nuova generazione che stiamo assistendo oggi”.
Si consigliano quattro strategie che i regolatori dovrebbero considerare.
- Richiedere ai sviluppatori di tali sistemi di riferire regolarmente sull’efficacia dei loro processi di gestione del rischio per mitigare gli output dannosi.
- Le aziende che utilizzano modelli linguistici di larga scala dovrebbero essere obbligate a divulgare ai loro clienti che il contenuto è stato generato dall’AI.
- I sviluppatori dovrebbero aderire a un processo formale di rilasci graduati, come parte di un quadro di gestione del rischio, progettato per salvaguardare contro esiti potenzialmente imprevisti dannosi.
- Porre l’onere sui sviluppatori di “mitigare il rischio alla sua radice” eseguendo un’audit proattiva del set di dati di addestramento per rappresentazioni errate.
Un fattore che perpetua i rischi associati alle tecnologie innovative è la spinta degli innovatori a raggiungere il vantaggio del primo muoversi adottando un modello di business “ship first and fix later”. Se OpenAI è in qualche modo trasparente sui potenziali rischi di ChatGPT, ha rilasciato per un uso commerciale ampio con un onere “acquirente avvisato” sui utenti per valutare e assumere i rischi da soli. Ciò potrebbe essere un approccio insostenibile dato l’impatto pervasivo dei sistemi di intelligenza artificiale conversazionale. Una regolamentazione proattiva abbinata a misure di applicazione robuste deve essere fondamentale quando si gestisce una tecnologia così innovativa.
L’intelligenza artificiale già permea quasi ogni parte della nostra vita, il che significa che una pausa nello sviluppo dell’AI potrebbe implicare una moltitudine di ostacoli e conseguenze impreviste. Invece di azionare improvvisamente i freni, i giocatori dell’industria e del legislatore dovrebbero collaborare in buona fede per attuare una regolamentazione concreta che sia radicata in valori umano-centrati come la trasparenza, la responsabilità e l’equità. Facendo riferimento alla legislazione esistente come l’AIA, i leader del settore privato e pubblico possono progettare politiche approfondite e standardizzate a livello globale che preverranno usi malintenzionati e mitigano esiti avversi, mantenendo così l’intelligenza artificiale entro i limiti del miglioramento dell’esperienza umana.
