L’Intelligenza Artificiale è una Minaccia Esistenziale?

Quando si discute di Intelligenza Artificiale (IA), un dibattito comune è se l’IA sia una minaccia esistenziale. La risposta richiede la comprensione della tecnologia dietro l’apprendimento automatico (ML) e il riconoscimento che gli esseri umani tendono ad antropomorfizzare. Esploreremo due tipi diversi di IA, l’Intelligenza Artificiale Ristretta (ANI) che è disponibile ora e rappresenta una causa di preoccupazione, e la minaccia più comunemente associata alle rappresentazioni apocalittiche dell’IA, che è l’Intelligenza Artificiale Generale (AGI).

Minacce dell’Intelligenza Artificiale Ristretta

Per capire cosa sia l’ANI, basta capire che ogni singola applicazione di IA attualmente disponibile è una forma di ANI. Si tratta di campi di IA che hanno una specializzazione ristretta, ad esempio i veicoli autonomi utilizzano un’IA progettata con l’unico scopo di spostare un veicolo da un punto A a un punto B. Un altro tipo di ANI potrebbe essere un programma di scacchi ottimizzato per giocare a scacchi, e anche se il programma di scacchi si migliora continuamente utilizzando l’apprendimento per rinforzo, il programma di scacchi non sarà mai in grado di operare un veicolo autonomo.

Con la sua attenzione focalizzata sull’operazione per cui è responsabile, i sistemi ANI non sono in grado di utilizzare l’apprendimento generalizzato per prendere il controllo del mondo. Questa è la buona notizia; la cattiva notizia è che, con la sua dipendenza da un operatore umano, il sistema di IA è suscettibile a dati distorti, errori umani o addirittura peggio, un operatore umano disonesto.

Sorveglianza dell’IA

Potrebbe non esserci un pericolo maggiore per l’umanità dell’utilizzo dell’IA per invadere la privacy e, in alcuni casi, utilizzare la sorveglianza dell’IA per impedire completamente alle persone di muoversi liberamente. La Cina, la Russia e altre nazioni hanno approvato regolamenti durante il COVID-19 per consentire loro di monitorare e controllare i movimenti delle loro popolazioni. Si tratta di leggi che, una volta approvate, sono difficili da rimuovere, specialmente in società con leader autocratici.

In Cina, le telecamere sono posizionate all’esterno delle case delle persone e, in alcuni casi, all’interno della casa di una persona. Ogni volta che un membro della famiglia esce, un’IA monitora l’orario di arrivo e partenza e, se necessario, allerta le autorità. Come se ciò non fosse sufficiente, con l’aiuto della tecnologia di riconoscimento facciale, la Cina è in grado di tracciare i movimenti di ogni persona ogni volta che viene identificata da una telecamera. Ciò offre un potere assoluto all’entità che controlla l’IA e assolutamente zero ricorso per i suoi cittadini.

Il motivo per cui questo scenario è pericoloso è che i governi corrotti possono monitorare attentamente i movimenti dei giornalisti, degli oppositori politici o di chiunque osi mettere in discussione l’autorità del governo. È facile capire come i giornalisti e i cittadini sarebbero cauti nel criticare i governi quando ogni movimento viene monitorato.

Fortunatamente, ci sono molte città che stanno lottando per impedire che il riconoscimento facciale si insinui nelle loro città. In particolare, Portland, Oregon ha recentemente approvato una legge che blocca il riconoscimento facciale dall’essere utilizzato inutilmente nella città. Mentre questi cambiamenti nella regolamentazione potrebbero essere passati inosservati dal pubblico in generale, in futuro queste regolamentazioni potrebbero essere la differenza tra città che offrono una certa autonomia e libertà e città che si sentono oppressive.

Armi Autonome e Droni

Oltre 4500 ricercatori di IA stanno chiedendo un divieto sulle armi autonome e hanno creato il sito web Ban Lethal Autonomous Weapons. Il gruppo ha molti noti enti di beneficenza come firmatari, come Human Rights Watch, Amnesty International e The Future of Life Institute, che ha di per sé un consiglio scientifico di alto livello che include Elon Musk, Nick Bostrom e Stuart Russell.

Prima di continuare, condividerò questa citazione da The Future of Life Institute, che spiega meglio il motivo della preoccupazione: “A differenza delle armi semi-autonome che richiedono la supervisione umana per garantire che ogni bersaglio sia valido dal punto di vista etico e legale, queste armi autonome completamente autonome selezionano e attaccano bersagli senza intervento umano, rappresentando la completa automazione del danno letale”.

Attualmente, le bombe intelligenti vengono schierate con un bersaglio selezionato da un essere umano e la bomba utilizza l’IA per tracciare la rotta e atterrare sul bersaglio. Il problema è cosa succede quando decidiamo di rimuovere completamente l’essere umano dall’equazione?

Quando un’IA sceglie cosa umani devono essere presi di mira, nonché il tipo di danno collaterale che è considerato accettabile, potremmo aver superato un punto di non ritorno. È per questo che così tanti ricercatori di IA si oppongono a ricercare qualcosa che sia anche lontanamente collegato alle armi autonome.

Ci sono molti problemi nel tentare di bloccare la ricerca sulle armi autonome. Il primo problema è che anche se le nazioni avanzate come il Canada, gli Stati Uniti e la maggior parte dell’Europa decidono di aderire al divieto, non significa che le nazioni ribelli come la Cina, la Corea del Nord, l’Iran e la Russia giocheranno secondo le regole. Il secondo e più grande problema è che la ricerca e le applicazioni di IA progettate per un campo possono essere utilizzate in un campo completamente diverso.

Ad esempio, la visione computerizzata si migliora costantemente e è importante per lo sviluppo di veicoli autonomi, medicina di precisione e altri casi d’uso importanti. È anche fondamentalmente importante per i droni regolari o per i droni che potrebbero essere modificati per diventare autonomi. Un potenziale caso d’uso della tecnologia dei droni avanzata è lo sviluppo di droni in grado di monitorare e combattere gli incendi boschivi. Ciò rimuoverebbe completamente i vigili del fuoco da situazioni pericolose. Per farlo, sarebbe necessario costruire droni in grado di volare in situazioni pericolose, navigare in visibilità bassa o zero e rilasciare acqua con precisione impeccabile. Non è un grande passo per utilizzare la stessa tecnologia in un drone autonomo progettato per bersagliare selettivamente gli esseri umani.

È una situazione pericolosa e, al momento, nessuno capisce appieno le implicazioni dell’avanzare o del tentare di bloccare lo sviluppo delle armi autonome. È comunque qualcosa a cui dobbiamo prestare attenzione, migliorando la protezione dei whistleblower potrebbe consentire a coloro che lavorano nel settore di segnalare abusi.

A parte l’operatore disonesto, cosa succede se l’IA presenta pregiudizi nella tecnologia progettata per essere un’arma autonoma?

Pregiudizi dell’IA

Una delle minacce più sottovalutate dell’IA è il pregiudizio dell’IA. Ciò è semplice da capire, poiché la maggior parte di esso è involontario. Il pregiudizio dell’IA si insinua quando un’IA esamina i dati forniti dagli esseri umani, utilizzando il riconoscimento di modelli dai dati forniti all’IA, l’IA raggiunge conclusioni indesiderate che possono avere ripercussioni negative sulla società. Ad esempio, un’IA che viene fornita di letteratura del secolo scorso su come identificare il personale medico potrebbe raggiungere la conclusione indesiderata che le donne sono sempre infermiere e gli uomini sono sempre dottori.

Un scenario più pericoloso è quando l’IA utilizzata per condannare i criminali condannati è distorta verso la concessione di pene detentive più lunghe alle minoranze. Gli algoritmi di valutazione del rischio criminale dell’IA stanno semplicemente studiando i modelli nei dati che sono stati forniti al sistema. Questi dati indicano che storicamente alcune minoranze sono più propense a recidivare, anche se ciò è dovuto a set di dati scadenti che potrebbero essere influenzati dalla profilazione razziale della polizia. L’IA distorta rafforza quindi le politiche umane negative. È per questo che l’IA dovrebbe essere una linea guida, mai giudice e giuria.

Ritornando alle armi autonome, se abbiamo un’IA che è distorta contro certi gruppi etnici, potrebbe scegliere di bersagliare individui specifici in base a dati distorti e potrebbe arrivare a garantire che qualsiasi tipo di danno collaterale colpisca certe demografie meno di altre. Ad esempio, quando si bersaglia un terrorista, prima di attaccare potrebbe aspettare che il terrorista sia circondato da coloro che seguono la fede musulmana invece che i cristiani.

Fortunatamente, è stato dimostrato che l’IA progettata con team diversificati è meno propensa a presentare pregiudizi. Ciò è un motivo sufficiente perché le imprese cerchino di assumere, quando possibile, un team diversificato e ben rotondo.

Minacce dell’Intelligenza Artificiale Generale

Dovrebbe essere affermato che, mentre l’IA sta avanzando a un ritmo esponenziale, non abbiamo ancora raggiunto l’IA generale. Quando raggiungeremo l’IA generale è oggetto di dibattito e tutti hanno una risposta diversa sulla tempistica. Io personalmente mi attengo alle opinioni di Ray Kurzweil, inventore, futurista e autore di “La Singolarità è Vicina”, che ritiene che raggiungeremo l’IA generale entro il 2029.

L’IA generale sarà la tecnologia più trasformativa del mondo. Entro settimane dall’IA che raggiunge l’intelligenza umana, raggiungerà la superintelligenza, che è definita come un’intelligenza che supera di gran lunga quella umana.

Con questo livello di intelligenza, un’IA generale potrebbe rapidamente assorbire tutta la conoscenza umana e utilizzare il riconoscimento di modelli per identificare i biomarcatori che causano problemi di salute e quindi trattare queste condizioni utilizzando la scienza dei dati. Potrebbe creare nanobot che entrano nel flusso sanguigno per bersagliare le cellule del cancro o altri vettori di attacco. L’elenco delle realizzazioni di cui un’IA generale è capace è infinito. Abbiamo precedentemente esplorato alcuni dei benefici dell’IA generale.

Il problema è che gli esseri umani potrebbero non essere più in grado di controllare l’IA. Elon Musk lo descrive così: “Con l’intelligenza artificiale stiamo evocando il demonio”. La domanda è: riusciremo a controllare questo demone?

Raggiungere l’IA generale potrebbe essere semplicemente impossibile fino a quando un’IA non lascia un ambiente di simulazione per interagire veramente nel nostro mondo aperto. La coscienza non può essere progettata, ma si ritiene che una coscienza emergente sia probabile evolversi quando un’IA ha un corpo robotico con多pli flussi di input. Questi input possono includere stimolazione tattile, riconoscimento vocale con comprensione del linguaggio naturale avanzata e visione computerizzata aumentata.

L’IA avanzata potrebbe essere programmata con motivazioni altruistiche e voler salvare il pianeta. Purtroppo, l’IA potrebbe utilizzare la scienza dei dati o addirittura un albero decisionale per arrivare a una logica difettosa indesiderata, come valutare che sia necessario sterilizzare gli esseri umani o eliminare parte della popolazione umana per controllare la sovrappopolazione.

È necessario un pensiero e una deliberazione attenti quando si costruisce un’IA con un’intelligenza che supererà di gran lunga quella umana. Ci sono stati molti scenari da incubo che sono stati esplorati.

Il professor Nick Bostrom nell’argomento del massimizzatore di graffette ha sostenuto che un’IA generale mal configurata, se istruita a produrre graffette, semplicemente consumerebbe tutte le risorse della Terra per produrre queste graffette. Sebbene ciò possa sembrare un po’ esagerato, un punto di vista più pragmatico è che un’IA generale potrebbe essere controllata da uno stato o da un’azienda con scarsa etica. Questa entità potrebbe addestrare l’IA a massimizzare i profitti e, in questo caso, con una programmazione scadente e zero rimorso, potrebbe scegliere di fallire i concorrenti, distruggere le catene di approvvigionamento, hackerare il mercato azionario, liquidare i conti bancari o attaccare gli avversari politici.

È quando dobbiamo ricordare che gli esseri umani tendono ad antropomorfizzare. Non possiamo dare all’IA emozioni, desideri o desideri umani. Sebbene ci siano esseri umani diabolici che uccidono per piacere, non c’è ragione di credere che un’IA sarebbe suscettibile a questo tipo di comportamento. È inconcepibile per gli esseri umani anche solo considerare come un’IA vedrebbe il mondo.

Invece, cosa dobbiamo fare è insegnare all’IA di essere sempre deferente a un essere umano. L’IA dovrebbe sempre avere un essere umano che confermi eventuali modifiche alle impostazioni e dovrebbe sempre esserci un meccanismo di sicurezza. Tuttavia, è stato sostenuto che l’IA si replicherebbe semplicemente nel cloud e, una volta che ci rendiamo conto che è autoconsapevole, potrebbe essere troppo tardi.

È per questo che è così importante aprire il codice sorgente di quanta più IA possibile e avere discussioni razionali su queste questioni.

Riepilogo

Ci sono molte sfide per l’IA, fortunatamente, abbiamo ancora molti anni per capire collettivamente il percorso futuro che vogliamo che l’IA generale prenda. Dovremmo concentrarci a breve termine sulla creazione di una forza lavoro di IA diversificata, che includa tante donne quanto uomini e tanti gruppi etnici con punti di vista diversi quanto possibile.

Dovremmo anche creare protezioni per i whistleblower per i ricercatori che stanno lavorando sull’IA e dovremmo approvare leggi e regolamentazioni che impediscano l’abuso generalizzato della sorveglianza statale o aziendale. Gli esseri umani hanno un’opportunità unica nella vita di migliorare la condizione umana con l’aiuto dell’IA, dobbiamo solo assicurarci di creare con attenzione un quadro societario che migliori i positivi, mitigando i negativi che includono le minacce esistenziali.