Tekoälystä tulee älykkäämpää, mutta koherenssin saavuttaminen vaikeutuu

Olen käyttänyt koko urani älykkyyden ymmärtämiseen. Opiskelin neurotiedettä, koska olin kiinnostunut tekoälystä ja ajattelin, että hyvä tapa aloittaa olisi ensin selvittää, miten aivot toimivat. Ensin älykkyys, vasta sitten ”keinotekoinen” älykkyys. Koulutukseni jätti minulle yhden tavan. Kun jokin uusi kyvykkyys tai teknologia tulee käyttöön, esitän ensin käytännönläheisen kysymyksen: mitä sillä oikeastaan voi tehdä, ja millaisiin todellisen maailman ongelmiin sitä voi soveltaa?

Tekoälyn parissa työskentelevänä en juuri innostu tekoälyä koskevista otsikoista. Kohinan sijaan pyrin ymmärtämään paitsi läpimurtoja myös uusien kyvykkyyksien rajoja.

Tylsistä työkaluista luotettavuuteen, jossa on paljon pelissä

Vuonna 2020, kun tekoälyn turvallisuudesta käytiin kiivasta keskustelua hypepuheen sävyttämänä, annoin yksinkertaisen neuvon. Tekoälyyn kannattaa suhtautua työkaluna – tehokkaana sellaisena, mutta silti työkaluna. Kannattaa pitäytyä arkisissa käyttötapauksissa. Työskennellään tehtävien tasolla, jolla teknologia oli riittävän luotettavaa avuksi. Optimistisessa skenaariossani oli tarjolla tylsiä mutta hyödyllisiä työkaluja.

Kun agenttiaalto alkoi voimistua pari vuotta myöhemmin, tarkastelin sitä samalla tavalla enkä vakuuttunut. Agenttipohjainen järjestelmä on vain niin vahva kuin sen taustalla olevat tehtävät, enkä ollut vielä nähnyt näiden järjestelmien tehokkaaseen toimintaan tarvittavaa luotettavuutta tehtävien tasolla.

Hype kuitenkin kasvoi. Kun osallistuin RSA-konferenssiin viime vuoden alussa, puheiden ja todellisten saavutusten välistä kuilua oli yhä vaikea sivuuttaa. Ei ollut edes yhteistä käsitystä siitä, mitä ”agenttipohjaisuus” tarkoittaa: jokaisella oli oma määritelmänsä ja näkökulmansa. Lisäksi olin huolissani rakenteellisesta ongelmasta. Oletetaan, että meillä on kymmenen agenttia, joista jokaisen tarkkuus on noin 95 prosenttia. Ketjutetaan ne niin, että yhden tulosteesta tulee seuraavan syöte. Ketjun loppupäässä tarkkuus on enää noin 60 prosenttia. Luotettavuus ei säily, kun vaiheita kasataan peräkkäin. Siihen mennessä olin alkanut pohtia agenttijärjestelmiä, vaikka huoleni koski yhä sitä, voiko niiden luottaa toimivan ja tuovan merkittävää hyötyä.

Sitten koodausagenttien nopea kehitys muutti mieleni.

Aiheesta kirjoittamani artikkelin julkaisemista seuranneiden kuukausien aikana kehityksen uskomaton vauhti teki minulle yhden asian selväksi: useissa tosielämän tehtävissä luotettavuuden saavuttaminen olisi vain ajan kysymys. Paremmat mallit ja niiden ympärille rakennetut entistä paremmat tekniset tukirakenteet kuromisivat umpeen kuilun, josta olin ollut huolissani. Huolestuttavana pitämäni yläraja siirtyisi kauemmas.

Silloin todellinen ongelma alkoi hahmottua, eikä se ollut se, jota olin seurannut. Kun yksittäisiin agentteihin voi luottaa, ensimmäisen käyttöönottoon ei pysähdytä. Käyttöön otetaan monia. Niitä toimii laumoittain organisaation kaikissa toiminnoissa; jokainen on kyvykäs ja hoitaa oman tehtävänsä. Esiin nousi uusi kysymys, jolla ei ollut mitään tekemistä luotettavuuden kanssa. Jos jokainen lauman agentti tekee sen, mitä varten se on rakennettu, vastaako koko lauman toiminta silti sitä, mitä organisaatio tavoitteli?

Organisaation asentotunnon tarve

Kyvykkäät raajat omaava keho ei pysty liikkumaan hyvin ilman asentotuntoa – jatkuvaa sisäistä aistimusta siitä, missä sen eri osat ovat ja mitä ne tekevät. Pikkuaivot eivät vain reagoi tähän palautteeseen, vaan myös ennakoivat. Kun aivot antavat liikkumiskäskyn, ne muodostavat odotuksen siitä, millaisen tuntemuksen liikkeen pitäisi aiheuttaa, ja vertaavat sitten odotusta siihen, mitä todella tapahtuu. Näiden välinen ero antaa signaalin, jonka perusteella seuraavaa liikettä korjataan. Taitava liikkuminen muodostuu tuloksen ennakoinnin ja poikkeaman korjaamisen muodostamasta silmukasta.

Agenttilaumoja käyttävä organisaatio tarvitsee vastaavan kyvyn hahmottaa itseään. Sen on jatkuvasti tiedettävä, missä sen järjestelmät ovat ja kuinka paljon ne ovat poikenneet tavoitetilastaan. Ilman tällaista sisäistä tietoisuutta kyvykkäät osat eivät yhdisty koordinoiduksi toiminnaksi. Kyse ei ole aistimismekanismista, joka lisätään kehoon jälkikäteen sen turvallisuuden parantamiseksi. Sitä tarvitaan, jotta keho ylipäätään pystyy liikkumaan.

Hyvin tutkittu tapaus kertoo Ian Waterman -nimisestä miehestä, joka menetti tämän aistimuksen suurimmasta osasta kehoaan. Hän oppi liikkumaan uudelleen, mutta vain tarkkailemalla itseään ja ohjaamalla katseellaan jokaista askelta ja kurkotusta. Se toimii. Se on myös uuvuttavaa ja epävarmaa. Jos valot sammutetaan, hän ei pysty koordinoimaan liikkeitään lainkaan. Organisaatio, joka ohjaa agenttejaan manuaalisilla tarkastuksilla ja määräajoin tehtävillä arvioinneilla, on vastaavassa asemassa. Se korvaa rakentamatta jääneen aistimiskyvyn jatkuvalla ponnistelulla, ja korvaaminen maksaa enemmän kuin alkuperäinen kyky olisi maksanut. Koko järjestelmä romahtaa heti olosuhteiden muuttuessa.

Nimeämisen arvoinen on myös eräs vielä oudompi häiriö, jota kuvataan kiehtovassa neurotieteilijä V S Ramachandranin kirjassa. Kun raaja amputoidaan, aivot eivät vaikene. Ne tuottavat edelleen signaaleja puuttuvaa raajaa varten, ja ihminen tuntee ne hyvin elävinä. Myös valvonta voi pettää samalla tavalla. Jos valvontatehtävästä poistetaan todellinen harkinta uudelleenjärjestelyjen tai laiminlyöntien vuoksi, tehtävä ei lakkaa. Arvioinnit tehdään edelleen ja mittareita tuotetaan yhä. Organisaatio tuntee valvonnan olevan läsnä, vaikka sen taustalla oleva harkinta on tyhjennetty. Tässä palaan vuoden 2020 neuvooni läpinäkyvyydestä. Valvontaa ei ole ilman läpinäkyvyyttä, eikä järjestelmässä ole läpinäkyvyyttä, jos se ainoastaan luo vaikutelman valvonnasta.

Koherenssi niukkana resurssina

Älykkyys käy halvemmaksi. Pian sitä on jokaisessa työnkulussa ja työkalussa. Tämän maailman niukka resurssi on koherenssi: elävä yhteys sen välillä, mitä kukin järjestelmä tekee itsenäisesti, ja mitä yritys pyrkii saavuttamaan. Koherenssi on sidekudos, joka pitää hajautetun älykkyyden linjassa yhden tarkoituksen kanssa.

Käytin vuosia tutkiessani, miten aivot pitävät lukuisat osansa toimimassa yhtenä kokonaisuutena. Agenttinen aikakausi esittää yrityksille saman kysymyksen. Tavoite ei ole muuttunut vuoden 2020 jälkeen. Tylsää mutta hyödyllistä, edelleen. Nyt tylsä mutta hyödyllinen rakennuskohde on itse koherenssi.