Forskere sier at mennesker ikke vil kunne kontrollere superintelligent AI

Alle som er klar over kunstig intelligens (AI) har sannsynligvis hørt noen versjon om at det til slutt vil bryte fri fra menneskelig kontroll. Dette er ikke bare et tema fra sci-fi-filmer, men heller en svært stor mulighet som har mange eksperter i bransjen bekymret. Mange av disse ekspertene, inkludert vitenskapsmenn, fremmer at vi begynner å forberede oss på denne muligheten og unngå den på alle måter som er mulig.

Nå har et internasjonalt team av forskere tatt denne ideen og støttet den opp med teoretiske beregninger. Teamet, som inkluderte vitenskapsmenn fra Center for Humans and Machines ved Max Planck Institute for Human Development, brukte disse beregningene til å demonstrere hvordan det ikke ville være mulig å kontrollere en superintelligent AI.

Forskningen ble nylig publisert i Journal of Artificial Intelligence Research.

Superintelligent AI-system

Frykten over et superintelligent AI-system har å gjøre med at slike systemer ville være langt overlegne mennesker. De ville være i stand til å ikke bare lære uavhengig, men også få tilgang til all eksisterende data og prosessere den ekstremt raskt.

Slike hendelser kunne føre til at det superintelligente AI-systemet overtar alle eksisterende maskiner på nettet, og selv om det kunne og ville gjøre ting som å kurere sykdommer og løse andre store problemer som menneskeheten står overfor, er risikoen for at ting kommer ut av kontroll også høy.

Manuel Cebrian er medforfatter av studien og leder av Digital Mobilization Group ved Center for Humans and Machines, Max Planck Institute for Human Development.

“Et super-intelligent maskin som kontrollerer verden høres ut som science fiction. Men det finnes allerede maskiner som utfører visse viktige oppgaver uavhengig uten at programmere fullstendig forstår hvordan de lærte det. Spørsmålet oppstår derfor om dette på et tidspunkt kan bli ukontrollert og farlig for menneskeheten,” sier Cebrian.

Kontroll av systemet

Det finnes to store skoler av tenkning når det kommer til å kontrollere slike systemer. Først kan mennesker begrense evnene til et superintelligent AI ved å begrense tilgangen til visse datakilder, som hele internettet. Systemet kunne også fungere uten å komme i kontakt med den ytre verden. Men problemet med dette er at det ville drastisk begrense AIens potensial.

Systemet ville bli kontrollert ved å bare tillate det å forfølge resultater som ville være til nytte for menneskeheten, og dette kunne gjøres ved å programmere etiske prinsipper inn i det.

Studien involverte at teamet utviklet en teoretisk innholdsalgoritme som forhindrer det superintelligente AI-systemet fra å skade mennesker under noen omstendigheter. Dette kan oppnås ved å først lage en simulering av AI-systemets atferd og oppdage noen atferd som kunne være skadelig. Til tross for denne lovende teorien, viser nåværende analyse at en slik algoritme ikke kan utvikles.

Iyad Rahwan er direktør for Center for Humans and Machines.

“Hvis du bryter ned problemet til grunnleggende regler fra teoretisk datavitenskap, viser det seg at en algoritme som ville beordre en AI ikke å ødelegge verden, ufrivillig kunne stoppe sin egen drift. Hvis dette skjedde, ville du ikke vite om innholdsalgoritmen fortsatt analyserer trusselen eller om den har stoppet for å innholde det skadelige AI-systemet. I praksis gjør dette innholdsalgoritmen ubrukelig,” sier Rahwan.

Et annet problem er at eksperter kanskje ikke engang innser når et superintelligent maskin når denne tilstanden, hovedsakelig på grunn av at det ville være mer intelligent enn mennesker.