Forskere siger, at mennesker ikke ville være i stand til at kontrollere overintelligent AI

Enhver, der er bekendt med kunstig intelligens (AI), har sandsynligvis hørt en eller anden version af, at det til sidst vil bryde fri fra menneskelig kontrol. Dette er ikke kun et tema fra science fiction-film, men snarere en meget stærk mulighed, der har mange eksperter i branchen bekymret. Mange af disse eksperter, herunder videnskabsmænd, fremhæver, at vi bør begynde at forberede os på denne mulighed og undgå den, så vidt det er muligt.

Nu har et internationalt hold af forskere taget denne idé og bakket den op med teoretiske beregninger. Holdet, der inkluderede videnskabsmænd fra Center for Humans and Machines ved Max Planck Institute for Human Development, brugte disse beregninger til at demonstrere, hvordan det ikke ville være muligt at kontrollere en overintelligent AI.

Forskningen blev nyligt offentliggjort i Journal of Artificial Intelligence Research.

Overintelligent AI-system

Frygten for et overintelligent AI-system har at gøre med, at et sådant system ville være langt overlegen i forhold til mennesker. Det ville være i stand til ikke kun at lære uafhængigt, men også til at få adgang til alle eksisterende data og bearbejde dem ekstremt hurtigt.

En sådan begivenhed kunne føre til, at den overintelligente AI overtager alle eksisterende maskiner online, og selvom den ville og kunne løse problemer som at kurere sygdomme og løse andre store problemer, der står over for menneskeheden, er risikoen for, at tingene kommer ud af kontrol, også høj.

Manuel Cebrian er medforfatter til studiet og leder af Digital Mobilization Group ved Center for Humans and Machines, Max Planck Institute for Human Development.

“Et over-intelligent maskine, der kontrollerer verden, lyder som science fiction. Men der er allerede maskiner, der udfører visse vigtige opgaver uafhængigt uden, at programmørerne fuldt ud forstår, hvordan de har lært det. Spørgsmålet opstår derfor, om dette på et tidspunkt kan blive ukontrollerbart og farligt for menneskeheden,” siger Cebrian.

Kontrol af systemet

Der er to store skoler af tanke, når det kommer til at kontrollere et sådant system. Først kan mennesker begrænse evnerne hos en overintelligent AI ved at begrænse dens adgang til visse kilder af data, såsom hele internettet. Systemet kan også fungere uden at komme i kontakt med den ydre verden. Men problemet med dette er, at det ville drastisk begrænse AI’ens potentiale.

Systemet kan kontrolleres ved kun at tillade det at forfølge resultater, der vil være til gavn for menneskeheden, og dette kan gøres ved at programmere etiske principper ind i det.

Studiet omfattede, at holdet udviklede en teoretisk indeholdelsesalgoritme, der forhindrer, at den overintelligente AI skader mennesker under nogen omstændigheder. Dette kan opnås ved først at oprette en simulation af AI’ens adfærd og detektere enhver adfærd, der kunne være skadelig. Trods denne lovende teori viser nuværende analyse, at en sådan algoritme ikke kan udvikles.

Iyad Rahwan er direktør for Center for Humans and Machines.

“Hvis du bryder problemet ned til grundlæggende regler fra teoretisk datalogi, viser det sig, at en algoritme, der ville beordre en AI til ikke at ødelægge verden, utilsigtet kunne standse sin egen drift. Hvis dette sker, ville du ikke vide, om indeholdelsesalgoritmen stadig analyserer truslen eller om den er stoppet for at indeholde den skadelige AI. I virkeligheden gør dette indeholdelsesalgoritmen ubrugelig,” siger Rahwan.

Et andet problem er, at eksperter måske ikke engang er klar over, når en overintelligent maskine når denne tilstand, hovedsagelig på grund af, at den ville være mere intelligent end mennesker.