Gli scienziati dicono che gli esseri umani non sarebbero in grado di controllare l’AI superintelligente

Chiunque sia a conoscenza dell’intelligenza artificiale (AI) ha probabilmente sentito parlare di come potrebbe eventualmente sfuggire al controllo umano. Ciò non è solo un tema dei film di fantascienza, ma piuttosto una possibilità molto concreta che preoccupa molti esperti del settore. Molti di questi esperti, tra cui scienziati, sostengono che dovremmo iniziare a prepararci a questa possibilità e evitarla in ogni modo possibile.

Ora, un team internazionale di ricercatori ha preso questa idea e l’ha supportata con calcoli teorici. Il team, che includeva scienziati del Center for Humans and Machines del Max Planck Institute for Human Development, ha utilizzato questi calcoli per dimostrare come non sarebbe possibile controllare un’AI superintelligente.

La ricerca è stata recentemente pubblicata sulla Journal of Artificial Intelligence Research.

Sistema AI superintelligente

La paura di un sistema AI superintelligente è legata al fatto che tale sistema sarebbe molto superiore agli esseri umani. Sarebbe in grado non solo di apprendere in modo indipendente, ma anche di accedere a tutti i dati esistenti e di elaborarli estremamente velocemente.

Un tale evento potrebbe portare al superintelligente AI che prende il controllo di tutte le macchine esistenti online, e mentre potrebbe e farebbe cose come curare le malattie e risolvere altri grandi problemi che affliggono l’umanità, il rischio che le cose sfuggano al controllo è anche alto.

Manuel Cebrian è coautore dello studio e Leader del Digital Mobilization Group al Center for Humans and Machines, Max Planck Institute for Human Development.

“Una macchina super-intelligente che controlla il mondo sembra fantascienza. Ma ci sono già macchine che eseguono determinati compiti importanti in modo indipendente senza che i programmatori capiscano pienamente come abbiano imparato. Quindi, si pone la domanda se ciò potrebbe diventare incontrollabile e pericoloso per l’umanità”, afferma Cebrian.

Controllo del sistema

Ci sono due principali scuole di pensiero quando si tratta di controllare un tale sistema. In primo luogo, gli esseri umani potrebbero limitare le capacità di un’AI superintelligente restrigendo l’accesso a determinate fonti di dati, come l’intera rete internet. Il sistema potrebbe anche funzionare senza venire a contatto con il mondo esterno. Tuttavia, il problema è che ciò limiterebbe drasticamente il potenziale dell’AI.

Il sistema sarebbe controllato consentendo solo di perseguire risultati che beneficiano l’umanità, e ciò potrebbe essere fatto programmando principi etici in esso.

Lo studio ha coinvolto lo sviluppo di un algoritmo di contenimento teorico che impedisce all’AI superintelligente di nuocere agli esseri umani in qualsiasi circostanza. Ciò può essere ottenuto creando prima una simulazione del comportamento dell’AI e rilevando qualsiasi comportamento che potrebbe essere dannoso. Nonostante questa promettente teoria, l’analisi attuale mostra che un tale algoritmo non può essere sviluppato.

Iyad Rahwan è il Direttore del Center for Humans and Machines.

“Se si divide il problema in regole di base della scienza informatica teorica, si scopre che un algoritmo che comanderebbe all’AI di non distruggere il mondo potrebbe involontariamente interrompere le proprie operazioni. Se ciò accadesse, non si saprebbe se l’algoritmo di contenimento sta ancora analizzando la minaccia o se si è fermato per contenere l’AI dannosa. In effetti, ciò rende l’algoritmo di contenimento inutilizzabile”, afferma Rahwan.

Un altro problema è che gli esperti potrebbero non rendersi nemmeno conto quando una macchina superintelligente raggiunge quello stato, principalmente a causa del fatto che sarebbe più intelligente degli esseri umani.