Leader del pensiero
AI e la lotta contro la tecnofobia
Quando si tratta di intelligenza artificiale generativa e modelli di linguaggio di grandi dimensioni, come ChatGPT. L'entusiasmo per l'IA si mescola alla tecnofobia. Questo è naturale per il grande pubblico: a loro piacciono le cose nuove ed eccitanti, ma hanno paura dell'ignoto. La novità è che diversi eminenti scienziati sono diventati essi stessi tecnoscettici, se non tecnofobi. Il caso degli scienziati e degli industriali che chiedono un divieto di sei mesi alla ricerca sull'IA, o lo scetticismo del massimo scienziato dell'IA, il prof. A. Hinton, ne sono esempi. L'unico equivalente storico correlato che posso ricordare è la critica alle bombe atomiche e nucleari da parte di una parte della comunità scientifica durante la guerra fredda. Fortunatamente, l'umanità è riuscita ad affrontare queste preoccupazioni in modo piuttosto soddisfacente.
Naturalmente, tutti hanno il diritto di mettere in discussione lo stato attuale degli affari dell'IA:
- Nessuno sa perché i Large Language Models funzionino così bene e se abbiano un limite.
- Molti pericoli che i cattivi creano "bombe AI" si nascondono, in particolare se gli stati rimangono spettatori passivi, in termini di regolamenti.
Queste sono preoccupazioni legittime che alimentano la paura dell'ignoto, anche per scienziati di spicco. Dopotutto, sono loro stessi umani.
Tuttavia, la ricerca sull'IA può fermarsi anche temporaneamente? A mio avviso no, poiché l'IA è la risposta dell'umanità a una società globale e a un mondo fisico di complessità sempre crescente. Poiché i processi di aumento della complessità fisica e sociale sono molto profondi e sembrano implacabili, l'intelligenza artificiale e la morfosi dei cittadini sono la nostra unica speranza per una transizione graduale dall'attuale società dell'informazione a una società della conoscenza. Altrimenti, potremmo trovarci di fronte a una catastrofica implosione sociale.
La soluzione è approfondire la nostra comprensione dei progressi dell'IA, accelerarne lo sviluppo, regolarne l'uso per massimizzarne l'impatto positivo, riducendo al minimo gli effetti negativi già evidenti e altri nascosti. La ricerca sull'IA può e deve diventare diversa: più aperta, democratica, scientifica ed etica. Ecco una proposta di elenco di punti a tal fine:
- La prima parola su importanti questioni di ricerca sull'IA che hanno un impatto sociale di vasta portata dovrebbe essere delegata a parlamenti e governi eletti, piuttosto che a società o singoli scienziati.
- Dovrebbe essere fatto ogni sforzo per facilitare l'esplorazione degli aspetti positivi dell'IA nel progresso sociale e finanziario e per minimizzarne gli aspetti negativi.
- L'impatto positivo dei sistemi di intelligenza artificiale può superare di gran lunga i loro aspetti negativi, se vengono prese adeguate misure normative. La tecnofobia non è giustificata, né è una soluzione.
- A mio avviso, la più grande minaccia attuale deriva dal fatto che tali sistemi di intelligenza artificiale possono ingannare a distanza troppe persone comuni che hanno poca (o media) istruzione e/o poca capacità investigativa. Questo può essere estremamente pericoloso per la democrazia e qualsiasi forma di progresso socio-economico.
- Nel prossimo futuro, dovremmo contrastare la grande minaccia proveniente dall'uso di LLM e/o CAN in attività illegali (imbrogliare negli esami universitari è un uso piuttosto benigno nell'ambito delle relative possibilità criminali).
- Il loro impatto sul lavoro e sui mercati sarà molto positivo, nel medio-lungo periodo.
- Alla luce di quanto sopra, i sistemi di IA dovrebbero: a) essere tenuti, in base al diritto internazionale, a essere registrati in un "registro dei sistemi di IA" e b) notificare ai propri utenti che conversano con o utilizzano i risultati di un sistema di IA.
- Poiché i sistemi di IA hanno un enorme impatto sulla società e mirano a massimizzare i benefici e il progresso socioeconomico, le tecnologie chiave avanzate dei sistemi di IA dovrebbero diventare aperte.
- I dati relativi all'IA dovrebbero essere (almeno in parte) democratizzati, ancora una volta per massimizzare i benefici e il progresso socio-economico.
- Devono essere previsti schemi di compensazione finanziaria adeguati per i campioni della tecnologia dell'IA per compensare qualsiasi perdita di profitto, a causa della suddetta apertura e per garantire forti investimenti futuri nella ricerca e sviluppo dell'IA (ad esempio, attraverso brevetti tecnologici, schemi di licenze obbligatorie).
- L'equilibrio della ricerca sull'IA tra il mondo accademico e quello industriale dovrebbe essere ripensato per massimizzare i risultati della ricerca, mantenendo al tempo stesso la competitività e premiando i rischi intrapresi in R&S.
- Le pratiche educative dovrebbero essere riviste a tutti i livelli di istruzione per massimizzare i benefici delle tecnologie di intelligenza artificiale, creando al contempo una nuova generazione di cittadini creativi e adattabili e scienziati (AI).
- Adeguati meccanismi di regolamentazione/supervisione/finanziamento dell'IA dovrebbero essere creati e rafforzati per garantire quanto sopra.
Molti di questi punti sono trattati in dettaglio nel mio recente libro in 4 volumi su "AI Science and Society", in particolare nei volumi A (riscritto nel maggio 2023 per coprire LLM e Artificial General Intelligence) e C.
Riferimenti di libri:
Intelligenza Artificiale Scienza e Società Parte C: Scienza e Società dell'IA
