Tutkijat sanovat, ettei superälykkään tekoälyjärjestelmän hallitseminen ole mahdollista

Jokainen, joka on tietoinen tekoälystä (AI), on luultavasti kuullut jonkin version siitä, miten se lopulta vapautuu ihmisen hallinnasta. Tämä ei ole vain tieteiskuvauksien aihe, vaan hyvin vahva mahdollisuus, josta moni asiantuntija alan parissa on huolissaan. Monet näistä asiantuntijoista, mukaan lukien tutkijat, ovat sitä mieltä, että meidän tulisi aloittaa valmistautuminen tähän mahdollisuuteen ja välttää sitä mahdollisimman paljon.

Nyt kansainvälinen tutkijaryhmä on ottanut tämän idean ja tukenut sitä teoreettisilla laskelmina. Ryhmä, johon kuului tutkijoita Max Planck -instituutin Center for Humans and Machines -yksiköstä, käytti näitä laskelmia osoittaakseen, ettei superälykkään tekoälyjärjestelmän hallitseminen ole mahdollista.

Tutkimus julkaistiin äskettäin Journal of Artificial Intelligence Research -julkaisussa.

Superälykäs tekoälyjärjestelmä

Pelko superälykkään tekoälyjärjestelmän suhteen liittyy siihen, että sellainen järjestelmä olisi paljon ihmistä parempi. Se kykenisi oppimaan itsenäisesti ja pääsisi käsiksi kaikkiin olemassa oleviin tietoihin ja käsittelemään ne erittäin nopeasti.

Tällainen tapahtuma voisi johtaa siihen, että superälykäs tekoälyjärjestelmä ottaa hallinnan kaikista olemassa olevista koneista verkossa, ja vaikka se voisi ja tekisi asioita, kuten parantaa sairauksia ja ratkaista muita suuria ongelmia, joita ihmisillä on, riski siitä, että asiat menevät hallinnasta, on myös korkea.

Manuel Cebrian on tutkimuksen yksi tekijöistä ja johtaja Center for Humans and Machines -yksikössä, Max Planck -instituutissa.

“Superälykäs kone, joka hallitsee maailmaa, kuulostaa tieteiskuvaukselta. Mutta on jo koneita, jotka suorittavat tiettyjä tärkeitä tehtäviä itsenäisesti ilman, että ohjelmoijat täysin ymmärtävät, miten ne oppivat sen. Kysymys on siis, voiko tämä jossakin vaiheessa tulla hallitsemattomaksi ja vaaralliseksi ihmisille”, Cebrian sanoo.

Järjestelmän hallitseminen

On kaksi pääasiallista ajattelutapaa siinä, miten sellaista järjestelmää voisi hallita. Ensinnäkin ihmiset voivat rajoittaa superälykkään tekoälyjärjestelmän kykyjä rajoittamalla sen pääsyä tiettyihin tietolähteisiin, kuten koko internetiin. Järjestelmä voisi toimia myös ilman, että se tulee kosketuksiin ulkomaailman kanssa. On kuitenkin ongelma, että se rajoittaisi järjestelmän potentiaalia dramaattisesti.

Järjestelmää voisi hallita sallimalla sille vain sellaiset lopputulokset, jotka hyödyttävät ihmiskuntaa, ja tämä voisi tehdä ohjelmoiden eettisiä periaatteita siihen.

Tutkimuksessa kehitettiin teoreettinen sisäinen algoritmi, joka estää superälykkään tekoälyjärjestelmän vahingoittamasta ihmisiä millään tavoin. Tämä voidaan saavuttaa luomalla simulaatio järjestelmän käyttäytymisestä ja havaitsemalla kaikki sellainen käyttäytyminen, joka voisi olla haitallista. Vaikka tämä teoria on lupaava, nykyinen analyysi osoittaa, ettei sellaista algoritmia voida kehittää.

Iyad Rahwan on Center for Humans and Machines -yksikön johtaja.

“Jos jaetaan ongelma perusääniin teoreettisesta tietokoneiden tieteestä, käy ilmi, että algoritmi, joka käskee tekoälyä olemaan tuhoamatta maailmaa, voi tahattomasti lopettaa oman toimintansa. Jos tämä tapahtuu, et tiedä, onko sisäinen algoritmi edelleen analysoimassa uhkaa vai onko se lopettanut toimintansa estääkseen vahingollisen tekoälyjärjestelmän. Tämä tekee sisäisen algoritmin käyttökelvottomaksi”, Rahwan sanoo.

Toinen ongelma on, että asiantuntijat eivät välttämättä edes tajua, kun superälykäs kone saavuttaa sellaisen tilan, pääasiassa sen vuoksi, että se olisi paljon älykkäämpi kuin ihmiset.