Forskare säger att människor inte skulle kunna kontrollera superintelligent AI

Varje person som är medveten om artificiell intelligens (AI) har troligen hört någon version om att den till slut kommer att bryta sig loss från mänsklig kontroll. Detta är inte bara ett tema från Sci-Fi-filmer, utan snarare en mycket stark möjlighet som oroar många experter inom branschen. Många av dessa experter, inklusive forskare, förespråkar att vi bör förbereda oss för denna möjlighet och undvika den på alla sätt som är möjliga.

Nu har ett internationellt team av forskare tagit denna idé och backat upp den med teoretiska beräkningar. Teamet, som inkluderade forskare från Centrum för människor och maskiner vid Max Planck-institutet för mänsklig utveckling, använde dessa beräkningar för att demonstrera hur det inte skulle vara möjligt att kontrollera en superintelligent AI.

Forskningen publicerades nyligen i Journal of Artificial Intelligence Research.

Superintelligent AI-system

Rädslan för ett superintelligent AI-system har att göra med det faktum att ett sådant system skulle vara långt överlägset människor. Det skulle kunna lära sig oberoende och även komma åt all befintlig data och bearbeta den extremt snabbt.

Ett sådant händelse kunde leda till att det superintelligenta AI-systemet tar över alla befintliga maskiner online, och medan det kunde och skulle göra saker som att bota sjukdomar och lösa andra stora problem som mänskligheten står inför, är risken för att saker kommer ur kontroll också hög.

Manuel Cebrian är medförfattare till studien och ledare för den digitala mobiliseringsgruppen vid Centrum för människor och maskiner, Max Planck-institutet för mänsklig utveckling.

“Ett superintelligent maskinsystem som kontrollerar världen låter som science fiction. Men det finns redan maskiner som utför vissa viktiga uppgifter oberoende utan att programmerarna fullständigt förstår hur de lärde sig det. Frågan uppstår därför om detta kan bli okontrollerbart och farligt för mänskligheten”, säger Cebrian.

Kontrollera systemet

Det finns två huvudsakliga skolor av tankar när det gäller att kontrollera ett sådant system. Först kan människor begränsa superintelligent AI:s förmågor genom att begränsa dess tillgång till vissa källor av data, såsom hela internet. Systemet kunde också fungera utan att komma i kontakt med omvärlden. Men problemet med detta är att det skulle drastiskt begränsa AI:s potential.

Systemet skulle kontrolleras genom att endast tillåta det att följa resultat som skulle gynna mänskligheten, och detta kunde göras genom att programmera etiska principer in i det.

Studien innefattade att teamet utvecklade en teoretisk inneslutningsalgoritm som förhindrar att det superintelligenta AI-systemet skadar människor under några omständigheter. Detta kan uppnås genom att först skapa en simulering av AI-systemets beteende och upptäcka eventuellt skadligt beteende. Trots denna lovande teori visar nuvarande analys att en sådan algoritm inte kan utvecklas.

Iyad Rahwan är chef för Centrum för människor och maskiner.

“Om du bryter ned problemet till grundläggande regler från teoretisk datavetenskap, visar det sig att en algoritm som skulle befalla en AI att inte förstöra världen oavsiktligt kunde stoppa sin egen verksamhet. Om detta hände, skulle du inte veta om inneslutningsalgoritmen fortfarande analyserar hotet eller om den har stoppat för att innesluta det skadliga AI-systemet. I praktiken gör detta inneslutningsalgoritmen oanvändbar”, säger Rahwan.

Ett annat problem är att experter kanske inte ens inser när ett superintelligent maskinsystem når den punkten, främst på grund av det faktum att det skulle vara mer intelligent än människor.