Tekoälyn tuomiopäivähype ja tekoälyn fiiliskahvilat: hallintakysymykset, joita emme voi sivuuttaa

Olemmeko tuhon omia? Onko tekoäly tietoinen? Miksi tekoäly-yhtiöt avaavat kahviloita?

Nämä kysymykset ovat havainnollisia, hämmentäviä ja — etenkin tietoisuuden osalta — aidosti vaikeita. Niillä on myös yhteinen taipumus vetää meitä kohti tekoälyä koskevan tarinan spekulatiivisimpia tai tunnepitoisimpia puolia. Samaan aikaan vähemmän elokuvamaiset kysymykset muovaavat jo ihmisten elämää: Kuka on vastuussa, kun tekoälyjärjestelmä aiheuttaa vahinkoa? Millainen data ja työpanos mahdollistivat sen? Mihin päätöksiin sen pitäisi voida vaikuttaa? Ja kenellä on sananvaltaa?

En välttämättä oleta, että jokainen eksistentiaalisista riskeistä puhuva, koneen tietoisuutta käsittelevä tai kahvilan avaava tekee niin väistääkseen nämä kysymykset. Jokainen aihe voi ansaita huomiomme omana itsenään. Huomiomme on kuitenkin rajallista. Kun jokin dramaattinen tarina nousee keskiöön, kannattaa kysyä, mikä muu on jäänyt katseilta piiloon.

Käsinkosketeltavan tekoälyn vetovoima

Tekoälyala on alkanut antaa suurelta osin aineettomille tuotteilleen fyysisiä osoitteita. Anthropic avasi New Yorkissa “Zero Slop Zone” -tilan, jossa kävijät saattoivat rauhoittua kahvin, kirjojen sekä kynän ja paperin äärellä; Perplexity puolestaan avasi Souliin Cafe Curious -kahvilan, jossa yhtiön tekoäly on osa asiakaskokemusta. Anthropicin pop-up-tilaa koskeva uutisointi ja Perplexityn Soulin kahvilaa koskeva uutisointi kuvaavat kahta erilaista pyrkimystä tuoda abstrakti teknologia tavalliseen, sosiaaliseen ympäristöön.

Tässä on järkeä. Useimmat ihmiset eivät voi nähdä kielimallia, tarkastella sen taustalla olevaa infrastruktuuria tai helposti hahmottaa, mitä kehotteen ja vastauksen välillä tapahtuu. Kahvila tarjoaa eräänlaisen fyysisen vastineen: huoneen, kupin ja keskustelun. Se voi tehdä yhtiöstä ja sen teknologiasta helpommin lähestyttäviä — ja ehkä myös helpommin ymmärrettäviä.

Tähän liittyy myös toinen ulottuvuus. Fyysinen tila tekee yhtiön näkyväksi yhteisössä. Se viestii vähintään: ”Olemme täällä, tässä paikassa, ainakin toistaiseksi.” Se voi tuntua rauhoittavalta alalla, jolla tuotteet, toimintaperiaatteet ja odotukset muuttuvat nopeasti. Näkyvyys ei kuitenkaan ole sama asia kuin vastuuvelvollisuus. Viihtyisä tila voi tehdä teknologiasta tutumman tuntuisen kertomatta kuitenkaan, miten se on koulutettu, missä se toimii luotettavasti tai mitä keinoja ihmisellä on puuttua tilanteeseen, jos järjestelmä tekee tärkeän asian väärin.

Tämä ero tuo mieleen ajatuksen, johon olen palannut vuosien ajan: digitaaliset kokemukset eivät ole koskaan pelkästään digitaalisia. Ne kohtaavat ihmiset paikoissa, ihmissuhteissa ja instituutioissa. Suunnittelussa ei ole kyse vain siitä, miten tekoälyjärjestelmästä tehdään helposti lähestyttävän tuntuinen. Olennaista on, auttaako kokemus ihmisiä ymmärtämään järjestelmän rajoitukset ja säilyttämään aidon mahdollisuuden vaikuttaa.

Keskustelu tietoisuudesta — ja jo nyt vaikutusten kohteena olevista ihmisistä

Sama ero on tärkeä myös tekoälyn tietoisuutta koskevissa keskusteluissa. Koneen tietoisuuden mahdollisuudesta, sen tunnistamiseen tarvittavasta näytöstä ja siitä, miten epävarmuuden pitäisi vaikuttaa vastuisiimme, ollaan aidosti eri mieltä. Anil Sethin Noemassa esittämä argumentti perustelee, miksi älykkyyttä ja tietoisuutta ei pitäisi pitää toistensa synonyymeina; The Guardianin tuoreessa uutisoinnissa puolestaan kerrotaan, miksi kysymys on yhä ratkaisematta. Keskusteluun ei ole helppoja vastauksia.

Koneen sisäiseen elämään liittyvä epävarmuus ei kuitenkaan tee epävarmoiksi kysymyksiä järjestelmien nykyisistä vaikutuksista ihmisiin. Vastuu ei ala vasta, kun olemme ratkaisseet, mitä tietoisuus on. Se alkaa, kun organisaatiot rakentavat järjestelmiä, ottavat niitä käyttöön ja hyötyvät niistä ihmisiin kohdistuvista vaikutuksista huolimatta.

Tarkastellaan kysymyksiä, joita voimme tutkia jo nyt. Mitä tietoja järjestelmän kouluttamiseen käytettiin ja millaisin ehdoin? Kuka tekee työn järjestelmän tuotosten valmistelemiseksi ja tarkistamiseksi? Miten se toimii eri ihmisryhmien kohdalla? Mitä tapahtuu, kun järjestelmää käytetään terveydenhuollossa, rekrytoinnissa, koulutuksessa tai julkisissa palveluissa? Voiko ihminen kyseenalaistaa automaattisen suosituksen, päästä keskustelemaan päätöksen tekevän ihmisen kanssa ja saada asianmukaisen selityksen?

Nämä huolenaiheet eivät ole hypoteettisia. Lääketieteellisen tekoälyn vinoumia käsittelevässä katsauksessa kuvataan, miten vinoutunut data ja suunnitteluratkaisut voivat johtaa eriarvoisiin hoitopäätöksiin. Tekoälyä ja työllisyyttä koskeva tutkimus puolestaan on vielä kehittymässä: Anthropicin työmarkkina-analyysi tarjoaa yhden tavan mitata altistumista, kun taas Hamilton Projectin katsauksessa huomautetaan, että näyttö laajoista työmarkkinavaikutuksista on edelleen puutteellista. Nämä lähteet viittaavat eri suuntiin sen suhteen, mitä voimme tällä hetkellä päätellä, mutta ne korostavat tarvetta mitata vaikutuksia sen sijaan, että näyttö korvattaisiin itsevarmoilla kertomuksilla.

Järjestelmistä puhumiseen liittyy myös toinen riski. Ihmismäiset nimet, äänet ja keskustelutyylit voivat saada tekoälyn tuntumaan enemmän ihmiseltä kuin tuotteelta. Tämä voi vaikuttaa luottamukseen ja siihen, miten helposti ihmiset hyväksyvät sen vastaukset. On aiheellista kysyä, voivatko puhe tietoisuudesta tai ihmismäistävä suunnittelu siirtää huomion pois organisaatioista, jotka määrittävät järjestelmän tavoitteet ja rajoitukset. Yhdessä MIT Technology Review’n analyysissä esitetään, että tietoisuuteen liittyvät kertomukset voivat hämärtää yritysvastuuta koskevia kysymyksiä. Kyse on kehystämisen vaikutuksia koskevasta väitteestä — ei todisteesta siitä, että jokaisella kysymyksen esittäjällä olisi jokin salattu motiivi.

Tuomiopäiväpuhe ei ole hallintasuunnitelma

Eksistentiaalinen riski ansaitsee vakavaa huomiota. Katastrofaaliset seuraukset eivät ole yhtään vähemmän tärkeitä siksi, että on olemassa läheisemmän aikavälin haittoja, eivätkä läheisemmän aikavälin haitat ole yhtään vähemmän tärkeitä katastrofin mahdollisuuden vuoksi. Meidän ei tarvitse valita yhtä aikajännettä ja sivuuttaa toista.

Mutta kun koko keskustelu pyörii kysymyksen ”Olemmeko tuhoon tuomittuja?” ympärillä, pitkän aikavälin riskit syrjäyttävät jälleen nykyhetken haitat. Tuho voi kuulostaa johtopäätökseltä eikä kehotukselta toimia: jos lopputulos on väistämätön, miksi nähdä vaivaa sen muuttamiseksi? The New Yorkerissa julkaistussa kuvauksessa eksistentiaalista riskiä käsittelevästä kurssista kerrotaan opiskelijan ”katedraalin rakentamista” koskevasta kysymyksestä: miksi sitoutua rakentamaan jotakin, joka saattaa kestää kauemmin kuin sinä itse, jos uskot maailman voivan päättyä? Vastaus ei ole se, että riskit katoaisivat. Epävarmuus ei kuitenkaan poista kykyämme — eikä vastuutamme — päättää, mikä on seuraavaksi tärkeää, ja auttaa muovaamaan sitä, mitä seuraavaksi tapahtuu.

Tätä tarkoitan ”strategisella optimismilla”. Se ei ole huoletonta ”kaikki järjestyy” -ajattelua eikä kieltäytymistä tarkastelemasta näyttöä. Se tarkoittaa todellisten riskien tunnustamista, niiden vähentämiseksi työskentelemistä ja samalla vakavaa panostamista tavoittelemisen arvoiseen tulevaisuuteen. Toivo ei ole tarkkuuden vastakohta. Se voi pitää tarkkuuden yhteydessä toimintaan.

Näyttävyyden taustalla olevat tekoälyn hallintakysymykset

Oli organisaatio sitten hankkimassa tekoälytyökalua, kehittämässä sellaista tai laatimassa sitä koskevaa politiikkaa, käytännön kysymykset ovat vähemmän näyttäviä kuin kahvila tai väite tietoisuudesta — ja hyödyllisempiä:

• Tarkoitus: Minkä ongelman järjestelmän on tarkoitus ratkaista, ja onko tekoäly siihen oikea työkalu?
• Näyttö: Miten järjestelmää on testattu, myös erilaisten käyttäjien ja harvinaisempien tapausten osalta?
• Rajaukset: Mitkä päätökset on jätettävä ihmiselle, ja mihin järjestelmä ei pysty?
• Vastuuvelvollisuus: Kuka on vastuussa järjestelmän pettäessä, ja miten asianosaiset voivat hakea muutosta?
• Avoimuus: Voivatko ihmiset ymmärtää, milloin tekoälyä käytetään ja mitkä tiedot ovat vaikuttaneet sen tuotokseen?
• Jatkuva valvonta: Kuka seuraa suorituskykyä, muuttuvaa dataa ja tahattomia vaikutuksia käyttöönoton jälkeen?

Esimerkiksi NISTin tekoälyn riskienhallintakehys tarjoaa organisaatioille jäsennellyn tavan tunnistaa ja hallita riskejä tekoälyjärjestelmän koko elinkaaren ajan. Mikään viitekehys ei voi korvata harkintaa tai julkista keskustelua, mutta hallinnasta tulee konkreettisempaa, kun vastuut, testit ja muutoksenhakukeinot määritellään selkeästi.

Hallittavana on myös fyysinen ulottuvuus. Tekoäly on riippuvainen datakeskuksista, sähköstä, vedestä, maasta ja rahoituksesta — ei pelkästään käyttöliittymistä. Suuren datakeskushankkeen rahoitusrakennetta käsittelevä uutisointi herättää kysymyksiä siitä, miten infrastruktuuriin liittyvistä riskeistä kerrotaan ja kenen kannettaviksi ne lopulta jäävät. Kahvila voi auttaa ihmisiä tutustumaan tekoälyyn, mutta se ei yksinään voi tehdä tekoälyn taustalla olevaa infrastruktuuria ymmärrettäväksi.

Nauttikaa siis kahvilasta. Esittäkää suuria kysymyksiä tietoisuudesta. Suhtautukaa katastrofiriskiin vakavasti. Palatkaa sitten päätöksiin, joita voimme tarkastella ja joihin voimme vaikuttaa nyt: mitä rakennetaan, kuka hyötyy, kuka kantaa kustannukset ja millaisia suojatoimia on käytössä, kun jokin menee pieleen.

Tulevaisuus ei ole otsikon julistama tuomio. Se muodostuu yritysten, instituutioiden, hallitusten ja yhteisöjen tekemistä valinnoista, joita voidaan yhä kyseenalaistaa ja muuttaa. Hyödyllisin kysymys ei ole vain se, olemmeko tuhoon tuomittuja. On myös kysyttävä, millaiset olosuhteet saisivat tekoälyn edistämään ihmisten kukoistusta ja mitä olemme valmiita tekemään, jotta nämä olosuhteet toteutuvat.