Oppimisvaltuutus-dilemma: Mitä tapahtuu, kun tekoälyagentin kyky ylittää ihmisen valvonnan?

Seisomme keinotekoisen älynnän kannaksella. Vuosien ajan olemme rakentaneet tekoälyjärjestelmiä, jotka seuraavat ohjeitamme. Nyt rakennamme tekoälyagenteja, jotka eivät ainoastaan seuraa ohjeita, vaan myös oppivat, sopeutuvat ja tekevät itsenäisiä päätöksiä reaaliajassa. Nämä järjestelmät siirtyvät työkalujen roolista edustajien rooliin. Tämä muutos luo niin kutsutun Oppimisvaltuutus-dilemman. Kun tekoälyagentin kyky prosessoida tietoa ja suorittaa monimutkaisia tehtäviä ylittää oman kykymme, ja kun se jatkaa oppimista ja kehittymistä käyttöönoton jälkeen, ihmisen valvontaa koskeva käsite muuttuu monimutkaiseksi. Miten ihmishallinnoija voi merkittävästi tarkastaa tai vastustaa päätöstä, jonka teki järjestelmä, joka ymmärtää asiayhteyden tasolla, jota emme voi ymmärtää? Miten säilytämme valtuutamme jonkun ylitse, joka on suunniteltu olevan älykkäämpi ja nopeampi kuin me omalla alueellaan?

Ihmisen valvonnan romahdus

Perinteisesti teknologian turvallisuus perustui yksinkertaiseen periaatteeseen: ihmisen osallistuminen. Ihmiskäyttäjä tarkastaa tuloksen, vahvistaa logiikan ja laukaisee laukaisimen. Mutta agenteille tekoäly rikkoo tämän mallin. Nämä agentit on suunniteltu tavoitteiden mukaan digitaalisissa ympäristöissä. Ne voivat varata matkoja, neuvotella sopimuksia, hallita toimitusketjuja tai jopa kirjoittaa koodia.

Ongelma ei ole ainoastaan nopeus. Se on epäselvyys. Nämä järjestelmät käyttävät usein suuria kielen malleja tai monimutkaisia vahvistusoppimismenetelmiä. Niiden päätöksentekoprosessit eivät ole helppoja yksinkertaisia if-then -sääntöjä, joita ihminen voi tarkastaa rivirivin. Jopa insinöörit, jotka rakensivat järjestelmät, eivät välttämättä täysin ymmärrä, miksi tietty toiminto tehtiin uudessa tilanteessa.

Tämä johtaa vaaralliseen aukkoon. Pyydämme ihmisiä valvomaan järjestelmiä, joita he eivät voi täysin ymmärtää. Kun agentti on “oppimassa” ja sopeutumassa strategioitaan, ihmisen valvoja jää reagoimaan tuloksiin, kykenemättä puuttumaan prosessiin. Meistä tulee päätösten havainnoitsijoita, ei niiden muokkaajia.

Itsenäisyyden ansa

Filosofi Philipp Koralus Oxfordista kuvailee tätä “agentti-itseohjautuvuuden dilemmaksi”. Jos emme käytä edistyneitä tekoälyagenteja auttamaan meitä käsittelemään yhä monimutkaisempaa maailmaa, meidän on riski tulla tehottomaksi ja menettää meidän valvontamme. Emme voi kilpailla koneen prosessointikyvyn kanssa.

Mutta jos luotamme niihin, meidän on riski luopua itseohjautuvuudestamme. Me alkamme ulkoistaa ei ainoastaan tehtäviä, vaan myös harkintamme. Agentti suodattaa tietoa, priorisoi vaihtoehtoja ja ohjaa meitä johtopäätöksiin, jotka sopivat sen optimointimalliin. Ajan myötä tällainen digitaalinen vaikutus voi muuttaa sitä, mitä uskomme ja miten valitsemme, ilman että huomaamme sitä.

Vaara on, että nämä järjestelmät ovat liian hyödyllisiä jätettäväksi huomiotta. Ne auttavat meitä käsittelemään monimutkaisuutta, joka tuntuu ylivoimaiselta. Mutta kun luotamme niihin, me saattamme hitaasti menettää niitä taitoja, kuten kriittistä ajattelua, eettistä arviointia ja asiayhteyden tietoisuutta, joita tarvitsemme ohjaamaan ja hallitsemaan niitä.

Vastuun ja kyvyn paradoksi

Viimeaikaiset tutkimukset esittelevät “Vastuun ja kyvyn paradoksin” käsitteen. Tämä on dilemman ydin. Mitä kykympää tekoäly tulee, sitä enemmän tehtäviä sille annetaan. Mitä enemmän tehtäviä sille annetaan, sitä vähemmän harjoitamme niitä taitoja. Mitä vähemmän harjoitamme, sitä vaikeampaa on arvioida, suoriutuuko tekoäly hyvin. Kykyämme pitää järjestelmää vastuussa vähenee suoraan järjestelmän kyvyn mukaan.

Tämä luo riippuvuuden kehän. Luotamme tekoälyyn, koska se on yleensä oikein. Mutta koska luotamme siihen, lopetamme sen tarkastamisen. Kun se lopulta tekee virheen, ja se tekee, koska kaikki järjestelmät epäonnistuvat, emme ole valmiit havaitsemaan sitä. Meillä ei ole “tilanneherkkyyttä” astua takaisin ja ottaa valvonta.

Tämä on erityisen vaarallista korkean panoksen alueilla, kuten julkisessa terveydenhuollossa tai rahoitusmarkkinoilla. Tekoälyagentti voi ottaa odottamattoman polun, joka johtaa vakavaan vahinkoon. Kun tämä tapahtuu, ihmisen valvoja on edelleen vastuussa päätöksestä, jonka hän ei tehnyt ja jota hän ei voinut ennustaa. Kone toimii, mutta ihminen maksaa hinnan.

“Viittaus” -rajat ja “Sokraattisen” suunnittelun tarve

Monet nykyiset järjestelmät perustuvat “viittaus” -filosofiaan. Ne yrittävät ohjata käyttäjän käyttäytymistä kohti sitä, mitä algoritmi pitää parhaana valintana. Mutta kun agentti siirtyy ehdottamisesta tekemiseen, tämä viittaus muuttuu voimakkaammaksi. Se muuttuu todellisuuden oletusasetukseksi.

Jotta ratkaistaisiin Oppimisvaltuutus-dilemma, meidän on lopetettava agenttien suunnittelu, jotka antavat vain vastauksia. Sen sijaan meidän on rakennettava agenteja, jotka rohkaisevat kysymyksiä, pohdintaa ja jatkuvaan ymmärtämiseen. Koralus kutsuu tätä “filosofista käännöstä” tekoälyssä . Sen sijaan, että agentti sulkee silmukkaa suorittamalla tehtävän, meidän on rakennettava agentti, joka avaa silmukkaa kysymällä tarkentavia kysymyksiä.

Tällainen Sokraattinen tekoäly ei ainoastaan suorittaisi “varaa parhaan lennon” -käskyä. Se osallistuisi keskusteluun käyttäjän kanssa. Se kysyisi: “Valitsit tämän lennon sen alhaisen hinnan vuoksi, mutta se lisää kuusi tuntia matkaasi. Arvostatko hintaa enemmän kuin aikaa tänään?” Tämä pakottaa ihmiset pysymään ajatteluprosessin mukana.

Säilyttämällä tämän kognitiivisen tauon käskyn ja toiminnan välillä, me suojelemme kykymme ajatella. Me säilytämme “ei-delegoituva ydin” ihmisen arviointikykyä. Ennen kaikkea, meidän ei pidä antaa tekoälylle päätöksiä, jotka liittyvät arvoihin, eetoksiin tai tuntemattomiin riskeihin.

Hallinnon infrastruktuurin rakentaminen

Dilemman ratkaiseminen ei ole ainoastaan suunnittelufilosofia; se vaatii kovaa infrastruktuuria. Emme voi luottaa hyviin aikomuksiin tai jälkikäteen tehtäviin tarkasteluihin. Meidän on tarve teknistä pakkoprosessia.

Yksi lupaava suunta on “Vartijan” järjestelmän tai ulkoisen valvonnan kerroksen käsite, joka seuraa tekoälyn käyttäytymistä reaaliajassa. Tämä ei ole ihminen, joka tarkkailee näyttöä, vaan toinen tekoäly, valvontaalgoritmi, joka etsii poikkeamia, käytäntörikkomuksia tai luottamuksen laskua. Kun se havaitsee ongelman, se voi laukaista kovan siirron ihmiselle.

Tämä vaatii selkeiden “valvonnan” ja “ohjauksen” rajojen määrittelyä. Ohjaus on kyky estää toiminto reaaliajassa. Valvonta on kyky tarkastella lokitapahtumia jälkikäteen. Varsinaisille itsenäisille agenteille ihmisen reaaliaikainen ohjaus on usein mahdotonta. Sen vuoksi meidän on rakennettava järjestelmiä, joissa on kovat pysäytysmekanismit. Esimerkiksi agentti, joka toimii korkean riskin alueella, pitäisi olla “sammutuspainike” -arkkitehtuuri. Jos agentin oma luottamus laskee alle kynnyksen tai jos se kohtaa tilanteen, johon se ei ollut koulutettu, se on pysäytettävä ja odottava ohjeita.

Lisäksi meidän on tarve hajautettu hallintotapa. Sen sijaan, että yksi monoliittinen malli määrää totuuden, voimme käyttää “useiden agenttien tähdistöä”, jotka ristivertaisesti vahvistavat toisiaan. Hajautettu totuuden etsintä tarkoittaa, ettei yksikään tekoäly ole lopullinen sana. Jos kaksi agenttia erimielisiä, se on signaali ihmisen väliintuloon.

Pohjimmiltaan

Kun seisomme aidosti itsenäisten järjestelmien reunalla, meidän on muistettava, että älykkyys ei ole ainoastaan tietäminen. Se on ymmärtäminen. Se on kyky pitää kahta ristiriitaista ajatusta ja silti tehdä arvio. Se on ihmisen taito. Jos delegoimme sen pois, emme ainoastaan menetä valvontaa koneidemme ylitse. Me menetämme valvontamme itseämme ylitse.