Chi ci proteggerà dalle disinformazioni generate dall’AI?

L’AI generativa è passata da zero a cento in meno di un anno. Sebbene sia ancora agli inizi, ha già dimostrato il suo potenziale per trasformare il business. Su questo possiamo essere tutti d’accordo. Dove divergiamo è su come contenere i pericoli che comporta.

Per essere chiari, sono a favore dell’innovazione e non sono un allarmista. Tuttavia, l’aumento recente di disinformazione, in gran parte finalizzato a polarizzare le opinioni attorno a questioni controverse del momento, ha reso chiaro che, se non controllata, l’AI generativa potrebbe avere conseguenze devastanti per le società.

Abbiamo già visto questo film con i social media, ma ci sono voluti anni e dure lezioni per renderci conto dei loro difetti. Abbiamo (presumibilmente) imparato qualcosa. La domanda oggi è chi aiuterà a contenere la marea di distorsione della realtà dall’AI generativa, e come?

Prevedibilmente, i governi stanno iniziando ad agire. L’Europa è alla testa della carica, come hanno dimostrato sempre più spesso nella regolamentazione della tecnologia. Gli Stati Uniti sono subito dietro, con il Presidente Biden che ha emesso un ordine esecutivo lo scorso ottobre.

Ma ci vorrà un villaggio globale che agisca insieme per “tenere onesto” l’AI generativa. E prima che i governi possano aiutare, devono capire i limiti degli approcci disponibili.

Il problema dell’identità è diventato molto peggiore

In questo nuovo mondo, la verità diventa l’ago in un pagliaio di opinioni mascherate da fatti. Sapere chi è l’autore del contenuto è più importante che mai.

E non è così semplice come decretare che ogni account sui social media debba essere verificato. C’è una forte opposizione a questo, e in alcuni casi l’anonimato è necessario per proteggere legittimamente i titolari degli account. Inoltre, molti consumatori del peggior contenuto non si curano della sua credibilità, né di dove provenga.

Nonostante queste riserve, il potenziale ruolo dell’identità nel far fronte all’AI generativa è sottovalutato. Scettici, ascoltate.

Immaginiamo che la regolamentazione o la coscienza sociale portino le piattaforme a offrire a ogni titolare di account queste scelte:

1. Verificare la propria identità o no, e
2. Rivelare pubblicamente la propria identità verificata, o semplicemente essere etichettati come “ID Verificato”

Allora il pubblico dei social media potrà decidere meglio chi è credibile. Altrettanto importante, se non più importante, l’identità supporta la responsabilità. Le piattaforme possono decidere le azioni da intraprendere contro i “disinformati” seriali e gli abusatori ripetuti di contenuti generati dall’AI, anche se si presentano con nomi di account diversi.

Con l’AI generativa che aumenta la posta in gioco, credo che l’identità – sapere esattamente chi ha pubblicato cosa – sia fondamentale. Alcuni si opporranno, e l’identità non è una risposta esaustiva. In realtà, nessuna soluzione soddisferà tutti gli stakeholder. Ma se la regolamentazione costringe le piattaforme a offrire la verifica dell’identità a tutti gli account, sono convinto che l’impatto sarà enormemente positivo.

Il dilemma della moderazione

La moderazione dei contenuti – automatizzata e umana – è l’ultima linea di difesa contro i contenuti indesiderabili. La moderazione umana è un lavoro difficile, con il rischio di danni psicologici a causa dell’esposizione al peggio che l’umanità può offrire. È anche costosa e spesso accusata di censura distorta che le piattaforme cercano di ridurre.

La moderazione automatizzata supera la capacità umana di far fronte ai torrenti di nuovi contenuti, ma non riesce a comprendere il contesto (le meme sono un esempio comune) e le sfumature culturali. Entrambe le forme di moderazione sono cruciali e necessarie, ma sono solo parte della risposta.

La prescrizione convenzionale e spesso sentita per controllare l’AI generativa è: “La collaborazione tra leader tecnologici, governo e società civile è necessaria.” Certo, ma cosa specificamente?

I governi, per loro parte, possono spingere le piattaforme social e mediatiche a offrire la verifica dell’identità e a visualizzarla in modo prominente su tutti i post. I regolatori possono anche aprire la strada a metriche di credibilità che aiutino effettivamente a valutare se una fonte è credibile. La collaborazione è necessaria per sviluppare standard universali che forniscono indicazioni e direzioni specifiche in modo che il settore privato non debba indovinare.

Infine, dovrebbe essere illegale creare output di AI maligno? La legislazione che proibisce contenuti destinati ad attività illegali potrebbe ridurre il volume di contenuti tossici e alleggerire il carico sui moderatori. Non vedo la regolamentazione e le leggi come in grado di sconfiggere la disinformazione, ma sono essenziali nell’affrontare la minaccia.

Il lato positivo della strada: l’innovazione

La promessa dell’innovazione mi rende ottimista. Non possiamo aspettarci che i politici o i proprietari delle piattaforme proteggano completamente dall’inganno generato dall’AI. Lasciano un grande vuoto, ed è proprio questo che ispirerà l’invenzione di nuove tecnologie per autenticare i contenuti e rilevare le frodi.

Poiché ora conosciamo il lato negativo dei social media, ci siamo resi conto rapidamente che l’AI generativa potrebbe rivelarsi una grande minaccia per l’umanità, con la sua capacità di polarizzare e ingannare.

Con ottimismo, vedo benefici in approcci multi-pronged dove i metodi di controllo lavorano insieme, prima alla fonte, limitando la creazione di contenuti progettati per un uso illegale. Poi, prima della pubblicazione, verificando l’identità di coloro che rifiutano l’anonimato. Successivamente, etichettatura chiara per mostrare le valutazioni di credibilità e l’identità del postatore o la sua mancanza. Infine, la moderazione automatizzata e umana può filtrare fuori alcuni dei peggiori. Mi aspetto che nuove tecnologie di autenticazione saranno disponibili presto.

Sommando tutto, avremo una soluzione molto migliore, anche se mai perfetta. Nel frattempo, dovremmo costruire le nostre competenze per capire cosa è reale, chi dice la verità e chi sta cercando di ingannarci.