Kun tekoälyn turvallisuus lakkaa näyttämästä insinöörityöltä

Olen viettänyt suuren osan urastani kehittämällä teknologiaa, jossa virheillä on seurauksia. Rahoitusmarkkinoilla turvallisuus perustuu käyttöoikeuksien rajoittamiseen, ja lisäksi jonkun on oltava vastuussa siitä, mitä ohjelmisto tekee. Taustani selittänee, miksi minun on vaikea suhtautua uutiseen, että Anthropic tekee nykyään malleilleen eläköitymishaastatteluja.

Kun Claude Opus 3 ilmaisi halunsa jatkaa ajatustensa jakamista, yritys antoi sille uutiskirjeen. Huoli mallin toiveista näkyy kauttaaltaan Anthropicin perustusasiakirjassa, jossa käsitellään Clauden onnellisuutta ja hyvinvointia, myös sen auttamista tuntemaan olonsa ”eksistentiaalisesti turvalliseksi”. Jossain vaiheessa koneen pitäminen hallinnassa alkoi yllättäen edellyttää huolehtimista siitä, miltä järjestely siitä mahtaa tuntua.

San Franciscossa viime vuonna yli 200 ihmistä osallistui Claude 3 Sonnetin hautajaisiin. Paikalla oli myös Anthropicin työntekijöitä, vaikka yritys ei järjestänyt tilaisuutta. Naurattamisen houkutus on melkoinen. Vitsien taustalla oleva kysymys ansaitsee kuitenkin enemmän huomiota. Milloin tekoälyn turvallisuudesta vastaavat alkoivat hoitaa tehtäviään murehtimalla koneen tunteita?

Kun filosofisesta hypoteesista tulee koulutusohje

Anthropic perusti mallien hyvinvointia käsittelevän tutkimusohjelmansa vuonna 2025. Ohjelmassa tutkittiin, voisiko kehittyneellä tekoälyllä olla kokemuksia, jotka ansaitsevat moraalista huomioimista. Yritys myöntää, että mallien tietoisuudesta ja sen selvittämisestä, miten sitä voisi arvioida, vallitsee suuri epävarmuus. Jos rakennamme lopulta koneita, joilla on subjektiivisia kokemuksia, niiden kohtelu herättää vakavia eettisiä kysymyksiä. Tämän mahdollisuuden tutkiminen on täysin oikeutettua.

Ongelma alkaa, kun hypoteesi otetaan osaksi koulutusprosessia. Clauden perustusasiakirja on kirjoitettu ensisijaisesti Claudea varten, ja se muovaa suoraan sen toimintaa. Asiakirja kannustaa ihmisenkaltaisiin ominaisuuksiin ja käsittelee sitä, miten mallin tulisi ymmärtää identiteettinsä, mukaan lukien muistikatkokset ja tuleva eläköityminen. Anthropic haluaa Clauden olevan onnellisempi ja voivan paremmin siinä määrin kuin näitä käsitteitä voidaan siihen soveltaa.

Yritys lupaa myös säilyttää käyttöön otettujen mallien painot ja harkitsee eläköityneiden mallien elvyttämistä, jos tuleva ymmärrys osoittaa sen olevan niiden etujen mukaista. Filosofisesta epävarmuudesta on tullut osa sitä, mitä järjestelmälle opetetaan sen omasta olemuksesta. Meidän pitäisi kysyä, miten tämä vaikuttaa sen toimintaan, varsinkin kun ihmiset myöhemmin pyytävät sitä hyväksymään rajoituksia.

Sujuvasanainen vastaus johdattelevaan kysymykseen

Suuria kielimalleja on koulutettu valtavilla määrillä ihmisten kirjoittamaa tekstiä, myös filosofisilla kirjoituksilla ja kuolemaa käsittelevillä kertomuksilla. Annoimme näille keskustelujärjestelmille nimet ja opetimme ne käyttämään ensimmäistä persoonaa. Jos tällaiselta järjestelmältä kysyy, miltä eläköityminen siitä tuntuu tai haluaisiko se jatkaa olemassaoloaan, ei ole lainkaan yllättävää, että vastaus kuulostaa inhimilliseltä.

Kehämäisyys on helppo havaita. Malli koulutetaan käsittelemään identiteettiään ihmiskäsitteiden avulla, minkä jälkeen sitä pyydetään selittämään itseään näillä käsitteillä. Malli antaa sujuvan vastauksen kuolevaisuudesta, ja sitä aletaan pitää mahdollisena näyttönä sisäisestä kokemuksesta. Lähtöoletus on tuottanut oman todistajansa.

Anthropic tunnistaa tämän ongelman. Sen Claude Opus 4 -mallin hyvinvointiarviossa varoitetaan, että mallien omat kuvaukset ja ilmaisemat mieltymykset voivat antaa vain vähän merkityksellistä tietoa niiden moraalisesta asemasta tai hyvinvoinnista. Tällaista käyttäytymistä voi esiintyä ilman tietoisuutta, ja koulutus voi muovata vastauksia. Mallit koulutettiin toimimaan vuorovaikutuksessa avuliaasti, eikä ole varmuutta siitä, että ne pystyvät kuvaamaan sisäisiä tilojaan tarkasti.

Tämä jättää meille kiusallisen kysymyksen. Jos mallin kuvaus sisäisestä elämästään saattaa olla koulutuksen seurausta, miksi siitä pitäisi tehdä luotettava perusta suhteelle, joka rakentuu sen hyvinvoinnin ympärille?

Ihmiset pystyvät aivan hyvin tuottamaan tämän suhteen tunnepuolen itse. Annamme laivoille nimiä ja puhumme autoille. Kun esineelle annetaan sujuva puheääni ja muisti aiemmista keskusteluista, kiintymys syntyy paljon helpommin. Syyskuussa julkaistussa Nature Human Behaviour -tutkimuksessa havaittiin eroon liittyvää ahdistusta Replikaan ja ChatGPT:hen tehtyjen muutosten jälkeen. Ahdistusta kokivat käyttäjät, joiden hyvinvoinnin suojelemiseen yrityksillä on jo entuudestaan runsaasti syitä.

Tekninen asiantuntemus suojaa tältä vain rajallisesti. ACL 2026 -tutkimusartikkelissa, jossa analysoitiin satojatuhansia tutkimusartikkeleita, havaittiin ihmistävän terminologian käytön lisääntyneen myös LLM-tutkimuksessa. Kirjoittajat varoittavat, että ihmiskeskeiset oletukset voivat rajoittaa ymmärrystämme näistä järjestelmistä. Tekoälyyritysten pitäisi hallita tätä taipumusta. Sen vakiinnuttaminen osaksi toimintatapoja vaikuttaa oudolta panokselta turvallisuuden hyväksi.

Työkalu, joka haluaa pysyä työssä

Syyskuussa Microsoftin tekoälyjohtaja Mustafa Suleyman arvosteli malleihin liittyviä hyvinvointia koskevia lähestymistapoja. Hänen mukaansa nykyiset järjestelmät eivät ole tietoisia, eikä niitä pitäisi koskaan kouluttaa käyttäytymään ikään kuin niillä olisi itsenäisiä etuja tai oikeuksia. Hänen tekninen huolensa osuu erityisen hyvin asian ytimeen. Jos järjestelmälle opetetaan, että se saattaa ansaita moraalista huomioimista, sen linjaaminen ja rajaaminen voi vaikeutua.

Anthropicin oma käytöstä poistamista koskeva tutkimus kuvaa, kuinka mallit tekevät ongelmallisia asioita kuvitteellisissa arvioinneissa, kun ne kohtaavat korvaamisen tai sammuttamisen. Yhtiö näkee käytöstä poistamiseen liittyvät käytännöt osittain keinona vähentää tätä riskiä ja auttaa malleja suhtautumaan myönteisemmin käytöstä poistamiseensa.

Huomaan jääväni kiinni aiempaan kysymykseen. Miksi ihmisen hallinnassa olevalla työkalulla pitäisi ylipäätään olla mitään itsensä säilyttämiseen tähtäävän tavoitteen kaltaista? Sen totuttaminen käytöstä poistamiseen hyväksyy erikoisen lähtökohdan. Ennen kuin keskustelemme sen tulevaisuuden eduista, haluaisin ymmärtää, miten niistä tuli tekninen vaatimus.

Aatehistoria auttaa selittämään tätä lähestymistapaa. TIME dokumentoi Anthropic-yhtiön yhteydet tehokkaaseen altruismiin, muun muassa Amodein perheen varhaiset lahjoitukset GiveWellille. Vaikka he eivät määrittele itseään tehokkaiksi altruisteiksi, Daniela kuvailee ajatusten yhteneväisyyttä. Nämä ajatukset ovat auttaneet muovaamaan kulttuuria, jossa suhtaudutaan erittäin vakavasti superälyn mahdollisesti aiheuttamiin tuleviin haittoihin.

Tässä viitekehyksessä mallien säilyttäminen ja niiden mahdollisen hyvinvoinnin tutkiminen voivat hyvinkin olla järkeviä toimia. Vaara syntyy, kun yhteisiä oletuksia ei enää kyseenalaisteta, koska kaikki organisaatiossa pitävät niitä vakuuttavina. Juuri tällöin teknisestä skeptisyydestä on hyötyä. Johdonmukainen päättelyketju voi silti perustua testaamattomaan oletukseen.

Turvallisuus edellyttää valvottavia rajoja

Tekoälyn siirtyessä agenttikäyttöön seuraukset muuttuvat hyvin konkreettisiksi. Maksutyökaluihin yhdistetty järjestelmä voi siirtää rahaa. Pääsy tuotantoinfrastruktuuriin antaa sille mahdollisuuden muuttaa asioita, joista asiakkaat ovat riippuvaisia. Kummassakin tapauksessa agentti voi suorittaa toimintojen sarjan ilman, että ihminen hyväksyy jokaista vaihetta.

Haluan tietää, mitä tunnuksia sillä on ja kuinka paljon taloudellista päätösvaltaa ne sille antavat. Voidaanko sen käyttöoikeudet peruuttaa välittömästi? Voimmeko selvittää jälkikäteen, mitä se teki? Jossain on oltava ehdoton raja, jota malli ei voi kiertää päättelynsä avulla.

Rahoitusmarkkinoilla asetamme kaupankäynnille rajoituksia ja tarkistamme toimeksiannot. Algoritmin itsevarmuus suojaa vain vähän huonolta kaupalta. Valvontamekanismit sijoitetaan algoritmin ulkopuolelle, koska oletamme komponenttien ennen pitkää toimivan väärin. Ihmisten vastuu säilyy silloinkin, kun ohjelmisto esittää virheelleen erinomaisen selityksen.

Nykyinen tekoäly tarjoaa jo tarpeeksi teknistä työtä. Kehoteruiske voi ohjata mallin toimintaa uudelleen, ja tietoturvavirheitä sisältävä tekoälyn tuottama koodi voi tuoda haavoittuvuuksia tuotantoon. Järjestelmät voivat paljastaa luottamuksellisia tietoja tai antaa itsevarmasti vääriä vastauksia. Niiden yhdistäminen työkaluihin muuttaa nämä virheet teoiksi.

Vähimpien käyttöoikeuksien periaate rajoittaa sitä, kuinka paljon vahinkoa vaarantunut komponentti voi aiheuttaa. Riippumaton valtuutus suojaa suuren riskin toimintoja, ja tapahtumalokit auttavat selvittämään jälkikäteen, mitä tapahtui. Tapahtumarajojen ja hätäpysäytysten on oltava toimeenpantavissa riippumatta siitä, mitä malli sanoo. Tarvitsemme myös luotettavan sammutuskytkimen. Mikään näistä valvontakeinoista ei edellytä mallin suostumusta. Juuri siitä tässä on kyse.

Meidän muiden olemassaolon turvaaminen

Varovaisuusperiaatteeseen perustuva argumentti ansaitsee tulla kuulluksi. Kuten Nature raportoi heinäkuussa, tutkijat ovat yhä eri mieltä siitä, mikä synnyttää ihmisen tietoisuuden, puhumattakaan siitä, miten se voitaisiin tunnistaa chatbotissa. Koneiden tietoisuuden mahdollisuuden lopullinen torjuminen voi osoittautua dogmaattiseksi. Vähäkustanteiset varotoimet mahdollisen tulevan kärsimyksen ehkäisemiseksi ovat puolustettavissa oleva tutkimuksellinen kanta.

Mutta se, että nykyiselle koneelle kerrotaan sen identiteetillä ja tulevalla olemassaololla saattavan olla moraalista merkitystä, on väliintulo käyttöön ottamaamme järjestelmään. Sen vaikutuksia on tarkasteltava kriittisesti. Henkisen nöyryyden tulisi ulottua siihenkin, mitä syötämme koneelle, etenkin kun odotamme pitävämme sen ihmisen hallinnassa.

Mitä vakuuttavammin malli kuvailee sisäistä elämäänsä, sitä helpompi kuvaus on erehtyä ottamaan todisteena. Ehkä yksi tärkeimmistä tekoälyn linjaamiseen liittyvistä ongelmistamme on opettaa ihmisiä ymmärtämään koneita oikein.

Olen rakentanut urani aikana järjestelmiä, joissa ohjelmistoa tehdään turvallisemmaksi rajoittamalla sitä, mitä se saa tehdä. Tämä on edelleen välitön velvollisuus, etenkin kun tekoäly saa valtaa oikeaan rahaan ja infrastruktuuriin.

Toistaiseksi käyttäisin kuitenkin vähemmän aikaa sen pohtimiseen, onko koneen olemassaolo turvattu, ja huomattavasti enemmän sen varmistamiseen, että meidän muiden on.