Onderzoekers zeggen dat mensen superintelligente AI niet kunnen beheersen

Iedereen die op de hoogte is van kunstmatige intelligentie (AI) heeft waarschijnlijk een versie gehoord dat het uiteindelijk loskomt van menselijke controle. Dit is niet alleen een thema uit Sci-Fi-films, maar eerder een zeer sterke mogelijkheid die door veel experts in de betreffende industrie wordt gebruikt. Veel van deze experts, waaronder wetenschappers, pleiten ervoor dat we ons beginnen voor te bereiden op deze mogelijkheid en deze op alle mogelijke manieren vermijden. 

Nu heeft een internationaal team van onderzoekers dit idee overgenomen en ondersteund met theoretische berekeningen. Het team, dat wetenschappers van het Center for Humans and Machines van het Max Planck Institute for Human Development omvatte, gebruikte die berekeningen om aan te tonen hoe het niet mogelijk zou zijn om een ​​superintelligente AI te besturen. 

Het onderzoek is onlangs gepubliceerd in de Tijdschrift voor onderzoek naar kunstmatige intelligentie. 

Superintelligent AI-systeem

De angst voor een superintelligent AI-systeem heeft te maken met het feit dat zo'n systeem veel beter zou zijn dan de mens. Het zou niet alleen zelfstandig kunnen leren, maar ook toegang krijgen tot alle bestaande gegevens en deze razendsnel kunnen verwerken. 

Zo'n gebeurtenis zou ertoe kunnen leiden dat de superintelligente AI alle bestaande machines online inhaalt, en hoewel het dingen kan en zou doen zoals het genezen van ziekten en het oplossen van andere grote problemen waarmee de mensheid wordt geconfronteerd, is het risico dat dingen uit de hand lopen ook groot. 

Manuel Cebrian is co-auteur van de studie en leider van de Digital Mobilization Group bij het Center for Humans and Machines, Max Planck Institute for Human Development. 

“Een superintelligente machine die de wereld bestuurt, klinkt als sciencefiction. Maar er zijn al machines die bepaalde belangrijke taken zelfstandig uitvoeren zonder dat programmeurs volledig begrijpen hoe ze het hebben geleerd. De vraag rijst daarom of dit op een gegeven moment oncontroleerbaar en gevaarlijk voor de mensheid kan worden”, zegt Cebrian. 

Beheer van het systeem

Er zijn twee belangrijke stromingen als het gaat om het beheersen van een dergelijk systeem. Ten eerste zouden mensen de mogelijkheden van een superintelligente AI kunnen beperken door de toegang tot sommige gegevensbronnen, zoals het hele internet, te beperken. Het systeem zou ook kunnen functioneren zonder in contact te komen met de buitenwereld. Het probleem hiermee is echter dat het het potentieel van de AI drastisch zou beperken.

Het systeem zou worden gecontroleerd door het alleen toe te staan ​​resultaten na te streven die de mensheid ten goede zouden komen, en dit zou kunnen worden gedaan door er ethische principes in te programmeren. 

Bij de studie ontwikkelde het team een ​​theoretisch inperkingsalgoritme dat voorkomt dat de superintelligente AI mensen onder alle omstandigheden schade berokkent. Dit kan worden bereikt door eerst een simulatie van het gedrag van de AI te maken en gedrag te detecteren dat schadelijk zou kunnen zijn. Ondanks deze veelbelovende theorie blijkt uit de huidige analyse dat een dergelijk algoritme niet ontwikkeld kan worden. 

Iyad Rahwan is directeur van het Centrum voor Mens en Machine.

“Als je het probleem herleidt tot basisregels uit de theoretische informatica, blijkt dat een algoritme dat een AI zou opdragen de wereld niet te vernietigen, onbedoeld zijn eigen activiteiten zou kunnen stoppen. Als dit zou gebeuren, zou je niet weten of het inperkingsalgoritme de dreiging nog aan het analyseren is, of dat het is gestopt om de schadelijke AI in te dammen. Dit maakt het insluitingsalgoritme in feite onbruikbaar”, zegt Rahwan.

Een ander probleem is dat experts zich misschien niet eens realiseren wanneer een superintelligente machine die toestand bereikt, vooral vanwege het feit dat het intelligenter zou zijn dan mensen.