Onderzoekers zeggen dat mensen geen superintelligente AI kunnen controleren

Iedereen die bekend is met kunstmatige intelligentie (AI) heeft waarschijnlijk een of andere versie gehoord over het feit dat het op een dag loskomt van de controle van de mens. Dit is niet alleen een thema uit sciencefictionfilms, maar een zeer sterke mogelijkheid die veel deskundigen in de industrie zorgen baart. Veel van deze deskundigen, waaronder wetenschappers, bepleiten dat we moeten beginnen met het voorbereiden op deze mogelijkheid en deze zo veel mogelijk moeten vermijden.

Nu heeft een internationaal team van onderzoekers deze idee ondersteund met theoretische berekeningen. Het team, dat wetenschappers omvatte van het Center for Humans and Machines van het Max Planck Institute for Human Development, gebruikte deze berekeningen om te demonstreren hoe het niet mogelijk zou zijn om een superintelligente AI te controleren.

Het onderzoek is onlangs gepubliceerd in de Journal of Artificial Intelligence Research.

Superintelligente AI-systeem

De angst voor een superintelligente AI-systeem heeft te maken met het feit dat een dergelijk systeem veruit superieur zou zijn aan de mens. Het zou niet alleen in staat zijn om onafhankelijk te leren, maar het zou ook toegang hebben tot alle bestaande gegevens en deze extreem snel kunnen verwerken.

Een dergelijke gebeurtenis zou kunnen leiden tot het overnemen van alle bestaande machines online door de superintelligente AI, en hoewel het dingen zou kunnen doen zoals het genezen van ziektes en het oplossen van andere grote problemen waarmee de mensheid wordt geconfronteerd, is het risico dat dingen uit de hand lopen ook groot.

Manuel Cebrian is co-auteur van de studie en leider van de Digital Mobilization Group van het Center for Humans and Machines van het Max Planck Institute for Human Development.

“Een superintelligente machine die de wereld controleert, klinkt als sciencefiction. Maar er zijn al machines die bepaalde belangrijke taken onafhankelijk uitvoeren zonder dat programmeurs volledig begrijpen hoe ze dit hebben geleerd. De vraag rijst dus of dit op een gegeven moment onbeheersbaar en gevaarlijk voor de mensheid kan worden,” zegt Cebrian.

De controle over het systeem

Er zijn twee belangrijke denkwijzen als het gaat om het controleren van een dergelijk systeem. Ten eerste zouden mensen de mogelijkheden van een superintelligente AI kunnen beperken door de toegang tot sommige gegevensbronnen te beperken, zoals het hele internet. Het systeem zou ook kunnen functioneren zonder contact te maken met de buitenwereld. Het probleem hiermee is echter dat dit de potentie van de AI drastisch zou beperken.

Het systeem zou worden gecontroleerd door het alleen te laten streven naar resultaten die de mensheid zouden kunnen helpen, en dit zou kunnen worden gedaan door ethische principes in te programmeren.

De studie omvatte het ontwikkelen van een theoretische beperkingsalgoritme dat voorkomt dat de superintelligente AI de mens schaadt onder alle omstandigheden. Dit kan worden bereikt door eerst een simulatie van het gedrag van de AI te maken en elk gedrag te detecteren dat schadelijk zou kunnen zijn. Ondanks deze veelbelovende theorie toont de huidige analyse aan dat een dergelijk algoritme niet kan worden ontwikkeld.

Iyad Rahwan is directeur van het Center for Humans and Machines.

“Als je het probleem afbreekt tot basisregels uit de theoretische informatica, blijkt dat een algoritme dat een AI zou bevelen de wereld niet te vernietigen, onbewust zijn eigen bewerkingen zou kunnen stoppen. Als dit gebeurt, weet je niet of het beperkingsalgoritme nog steeds de dreiging analyseert, of dat het is gestopt om de schadelijke AI te bevatten. In feite maakt dit het beperkingsalgoritme onbruikbaar,” zegt Rahwan.

Een ander probleem is dat deskundigen mogelijk niet eens beseffen wanneer een superintelligente machine deze toestand bereikt, voornamelijk vanwege het feit dat het veel intelligenter zou zijn dan de mens.