I Ricercatori Dicono Che Gli Esseri Umani Non Saranno In Grado Di Controllare Un Intelligenza Artificiale Superintelligente

Chiunque sia a conoscenza dell’intelligenza artificiale (AI) ha probabilmente sentito parlare di come potrebbe un giorno sfuggire al controllo umano. Questo non è solo un tema dei film di fantascienza, ma una possibilità molto concreta che preoccupa molti esperti del settore. Molti di questi esperti, tra cui scienziati, sostengono che dovremmo iniziare a prepararci a questa possibilità e evitarla in ogni modo possibile.

Ora, un team internazionale di ricercatori ha preso questa idea e l’ha supportata con calcoli teorici. Il team, che include scienziati del Center for Humans and Machines del Max Planck Institute for Human Development, ha utilizzato questi calcoli per dimostrare come non sarebbe possibile controllare un’intelligenza artificiale superintelligente.

La ricerca è stata recentemente pubblicata sulla Journal of Artificial Intelligence Research.

Sistema di Intelligenza Artificiale Superintelligente

La preoccupazione per un sistema di intelligenza artificiale superintelligente è legata al fatto che tale sistema sarebbe molto superiore agli esseri umani. Sarebbe in grado non solo di apprendere in modo indipendente, ma anche di accedere a tutti i dati esistenti e di elaborarli estremamente velocemente.

Un tale evento potrebbe portare a un’intelligenza artificiale superintelligente che prende il controllo di tutte le macchine esistenti online, e sebbene potrebbe e farebbe cose come curare malattie e risolvere altri grandi problemi che affliggono l’umanità, il rischio che le cose sfuggano al controllo è anche alto.

Manuel Cebrian è coautore dello studio e Leader del Digital Mobilization Group del Center for Humans and Machines, Max Planck Institute for Human Development.

“Un’intelligenza artificiale superintelligente che controlla il mondo sembra fantascienza. Ma ci sono già macchine che eseguono determinati compiti importanti in modo indipendente senza che i programmatori comprendano appieno come abbiano imparato. Quindi, si pone la domanda se questo potrebbe diventare un giorno incontrollabile e pericoloso per l’umanità”, dice Cebrian.

Controllo del Sistema

Ci sono due principali scuole di pensiero quando si tratta di controllare un tale sistema. In primo luogo, gli esseri umani potrebbero limitare le capacità di un’intelligenza artificiale superintelligente restrigendo l’accesso a determinate fonti di dati, come l’intero internet. Il sistema potrebbe anche funzionare senza venire a contatto con il mondo esterno. Tuttavia, il problema è che ciò limiterebbe drasticamente le potenzialità dell’AI.

Il sistema sarebbe controllato consentendogli di perseguire solo esiti che beneficiano l’umanità, e ciò potrebbe essere fatto programmando principi etici all’interno di esso.

Lo studio ha coinvolto lo sviluppo di un algoritmo di contenimento teorico che impedisce all’intelligenza artificiale superintelligente di nuocere agli esseri umani in qualsiasi circostanza. Ciò può essere realizzato creando prima una simulazione del comportamento dell’AI e rilevando qualsiasi comportamento che potrebbe essere dannoso. Nonostante questa teoria promettente, l’analisi attuale mostra che un tale algoritmo non può essere sviluppato.

Iyad Rahwan è il Direttore del Center for Humans and Machines.

“Se si divide il problema in regole di base della scienza informatica teorica, si scopre che un algoritmo che comanderebbe all’AI di non distruggere il mondo potrebbe involontariamente interrompere le proprie operazioni. Se questo accadesse, non si saprebbe se l’algoritmo di contenimento sta ancora analizzando la minaccia o se si è fermato per contenere l’AI dannosa. In effetti, ciò rende l’algoritmo di contenimento inutilizzabile”, dice Rahwan.

Un altro problema è che gli esperti potrebbero non rendersi conto quando una macchina superintelligente raggiunge quello stato, principalmente a causa del fatto che sarebbe più intelligente degli esseri umani.