Ajatusjohtajat
Tekoälyn hallinta mallia laajemmin

Keskeiset kohdatVastuuvajaukset aiheuttavat useimmat yritysten tekoälyepäonnistumiset, eivät mallien…
Näytä lisää
- Vastuuvajaukset aiheuttavat useimmat yritysten tekoälyepäonnistumiset, eivät mallien puutteet.
- Air Canada todettiin vastuulliseksi chatbotinsa virheellisestä suruliputushinnaston neuvonnasta.
- Agenttitekoäly pahentaa olemassa olevia hallintovajeita, kun autonomiset toimet kasvattavat riskejä.
Varoitus: Ongelma ei ole mallissa
Vuonna 2023 New Yorkin kaupunki otti käyttöön MyCity-chatbotin auttaakseen yrityksiä selviytymään monimutkaisesta sääntelystä. Ajatus oli yksinkertainen: helpottaa oikeudellisen tiedon saantia.
Käytännössä järjestelmän vastaukset eivät olleet vain virheellisiä vaan myös oikeudellisesti harhaanjohtavia, koskivatpa ne juomarahoja, asumiseen liittyvää syrjintää tai maksamista koskevia lakeja.
Myöhemmässä tarkastuksessa todettiin, että 71,4 % käyttäjäpalautteesta oli kielteistä. Taustalla olevien ongelmien korjaamisen sijaan palveluun lisättiin vastuuvapauslausekkeita. Chatbot pysyi jopa yli kaksi vuotta beetavaiheessa ennen kuin se suljettiin.
Epäonnistuminen ei ollut tekninen. Järjestelmä petti tuotantokäytössä, koska oikeellisuuden varmistamiseen ei ollut mekanismia, vastuu ei ollut selvä eikä ongelmatilanteisiin voitu puuttua.
Tämä kuvaa yritysten tekoälyn toistuvaa ongelmaa: teknologia toimii, mutta organisaatioilla ei ole valmiuksia ylläpitää sitä luotettavasti käyttöönoton jälkeen.
Pilotista tuotantoon: Missä kaikki hajoaa
Pilotin rakentaminen on melko suoraviivaista: valitaan käyttötapaus ja malli, valmistellaan data ja hankitaan tukija. Järjestelmän pyörittäminen tuotannossa on aivan eri asia.
Ero on kuin uima-altaaseen hyppäämisen ja stratosfääristä hyppäämisen välillä, kuten Felix Baumgartner teki vuonna 2012. Perusfysiikka on sama, mutta olosuhteet täysin erilaiset, samoin epäonnistumisen seuraukset.
Tuotannossa tekoäly osallistuu todellisiin päätöksentekoprosesseihin, on vuorovaikutuksessa asiakkaiden kanssa ja aiheuttaa oikeudellisia sekä toiminnallisia seurauksia. Puutteet alkavat näkyä juuri siinä: eivät mallissa vaan sen hallinnassa.
Euroopassa tämä tulee näkyviin aiemmin kuin useimmilla muilla alueilla. EU:n tekoälysäädöksen, GDPR:n ja NIS2:n kaltainen sääntely ei hidasta käyttöönottoa vaan paljastaa, pystyvätkö organisaatiot käyttämään tekoälyjärjestelmiä todellisten rajoitteiden alaisina.
Vuonna 2025 jo 55 % EU:n suuryrityksistä käytti tekoälyä. Käyttöönotto tapahtuu jo laajassa mittakaavassa. Haasteena on se, mitä käyttöönoton jälkeen tapahtuu.
Silloin esiin nousee toiminnan peruskysymyksiä, joihin kukaan ei usein osaa vastata: Kuka vastaa tekoälyn tuotoksista ja itsenäisistä päätöksistä? Mitä tapahtuu, jos järjestelmä käyttäytyy odottamattomasti? Kuka havaitsee ongelman ennen kuin vahingot päätyvät mediaan?
Oikeudellinen vastuu on yrityksellä, ei teknologialla. Air Canadan chatbot (AC.TO ) antoi asiakkaalle virheellisiä tietoja läheisen kuolemantapaukseen liittyvistä lentohinnoista. Asiakas luotti tietoihin, mutta häneltä evättiin myöhemmin hyvitys. Ratkaisuelin katsoi lentoyhtiön olevan vastuussa: chatbot ei ollut erillinen toimija.
Sama ongelma toisesta näkökulmasta: McDonald’sin McHire -järjestelmä paljasti lähes 64 000 hakijan arkaluonteisia tietoja. Syynä ei ollut kehittynyt hyökkäys: ylläpitäjän kirjautumistunnukset olivat ”admin” ja ”123456”. Järjestelmä näytti edistyneeltä. Virhe oli perustasoinen.
Hallintamallin lisääminen jo käytössä olevaan järjestelmään on liian myöhäistä. Käyttöönotto on tekninen päätös, mutta luotettava toiminta on organisatorinen kysymys. Juuri tätä useimmat yritykset aliarvioivat.
Kuka todella vastaa tekoälyriskistä? Ei kukaan.
Tämä on ongelman ydin ja paradoksaalisesti vähiten käsitelty osa. IT hallitsee infrastruktuuria. Lakiosasto huolehtii vaatimustenmukaisuudesta. Liiketoimintatiimit edistävät käyttötapauksia. Kukaan ei kuitenkaan vastaa tekoälyriskistä kokonaisuutena alusta loppuun.
Tästä syntyy heti kaksi ongelmaa. Käynnistämispäätös hidastuu, koska kukaan ei halua ottaa vastuuta. Pysäyttämispäätös hidastuu yhtä lailla, koska kukaan ei tiedä, kenellä on siihen valtuudet.
Luvut kuvastavat tätä. Alle 10 % tekoälyn käyttötapauksista etenee pilotista tuotantoon, ja useimmilla organisaatioilla on vaikeuksia saada aikaan mitattavia liiketoimintavaikutuksia. Monet ottavat silti jo tekoälyä käyttöön, mutta hallinnan kypsyystutkimuksen mukaan vain 7 prosentilla oli käytössään hyvin jäsennelty ja johdonmukaisesti sovellettu hallintamalli.
Miksi tämä toistuu niin säännönmukaisesti? Useimmat viitekehykset ja yritysten toimintaperiaatteet määrittelevät, mitä pitäisi tapahtua, eivät sitä, kuka vastaa toiminnasta ratkaisevalla hetkellä. Jos järjestelmä alkaa tuottaa virheellisiä tuloksia perjantaina keskiyöllä, kysymys ei ole teoreettinen. Kuka toimii? Kenellä on päätösvalta?
Mittakaavan kasvaessa tilanne vain pahenee. Yhtä järjestelmää voi hallita epämuodollisesti. Kolmenkymmenen järjestelmän kohdalla vastuu pirstoutuu tiimien kesken eikä kukaan näe kokonaisuutta.
Commonwealth Bank of Australia (CBA.AX ) tarjoaa selkeän esimerkin. Pankki korvasi 45 asiakaspalvelutyöntekijää tekoälypohjaisilla ääniboteilla ja odotti kysynnän vähenevän. Näin ei käynyt. Puhelumäärät kasvoivat, esihenkilöt joutuivat käsittelemään ylivuotavaa kuormaa ja pankin täytyi palkata kaikki 45 työntekijää takaisin. Asiaa kyseenalaistettaessa pankki ei kyennyt osoittamaan automaation vähentäneen työmäärää.
Kukaan ei ollut tarkistanut oletuksia ennen käyttöönottoa. Kukaan ei vastannut lopputuloksesta oletusten pettäessä. Tältä vastuutyhjiö näyttää käytännössä.
Säännöt eivät riitä. Tarvitaan mekanismi
Useimmilta organisaatioilta ei puutu toimintaperiaatteita. Niiltä puuttuvat järjestelmät, jotka toimivat ongelmatilanteessa.
Toimintaperiaate määrittelee, mitä pitäisi tapahtua. Mekanismi ratkaisee, mitä todella tapahtuu, kun malli tuottaa virheellisiä tuloksia, toimittaja muuttaa jotakin taustalla tai järjestelmä alkaa käyttäytyä odottamattomasti.
Ero näkyy tuotannossa, kun päätöksiä on tehtävä todellisissa olosuhteissa.
Epäonnistumisissa toistuu sama dynamiikka. Jokaisessa tapauksessa samat toiminnalliset puutteet tulevat esiin eri muodoissa.
Vastuuhenkilö on nimettävä ensin
Jokaiselle käyttöön otetulle tekoälyjärjestelmälle tarvitaan selvästi vastuussa oleva omistaja: yksi henkilö, ei tiimi tai osasto, jolla on valtuudet hyväksyä järjestelmä, keskeyttää sen käyttö ja sulkea se.
Ilman tätä nopea käyttöönotto ja turvallinen puuttuminen eivät ole mahdollisia. Commonwealth Bankin esimerkki osoittaa, kuinka epäselvä vastuu johtaa suoraan toiminnalliseen epäonnistumiseen.
Dataa ja oikeudellisia perusteita koskeva selkeys puuttuu usein
Moni järjestelmä otetaan käyttöön ilman dokumentoituja tietovirtoja, varmistettua oikeusperustaa tai selvyyttä tuotantokäyttöön liittyvistä velvoitteista.
Italian valvontaviranomaisen toimet DeepSeekiä vastaan vuonna 2025 havainnollistavat tätä selvästi. Kyse ei ollut mallin laadusta vaan kyvyttömyydestä selittää henkilötietojen käsittelyä. Seurauksena oli äkillinen palvelukatkos eurooppalaisille käyttäjille.
Testaus vastaa harvoin todellista käyttöä
Järjestelmiä arvioidaan usein tilanteissa, joissa ne suoriutuvat hyvin, mutta ei niissä tapauksissa, joissa epäonnistumisella olisi suurin merkitys.
MyCity-chatbot on selkeä esimerkki. Työlainsäädäntöä, asumiseen liittyvää syrjintää ja maksusääntöjä koskevia perustason rajatapauksia ei havaittu ennen käyttöönottoa. Todellisten käyttäjien kohdatessa ne puutteet tulivat heti julkisiksi.
Testauksessa ei ole kyse vain suorituskyvystä vaan järjestelmän heikkojen kohtien tunnistamisesta ennen käyttäjiä, viranomaisia tai toimittajia.
Puuttuminen on epäselvää tai liian hidasta
Vaikka ongelmat näkyisivät, järjestelmän keskeyttämiselle tai sulkemiselle ei usein ole selkeää käynnistyskriteeriä tai toimivaltaa.
Zillow Offers havainnollistaa tätä suuressa mittakaavassa. Järjestelmä hinnoitteli ja osti asuntoja algoritmin avulla. Markkinoiden viilentyessä vuonna 2021 se jatkoi ostamista liian korkeilla hinnoilla. Kehityksen poikkeamien ajoissa havaitsemiseen ei ollut mekanismia eikä pysäyttämiselle selkeää päätöspistettä. Tuloksena oli yli 880 miljoonan dollarin tappiot ja koko liiketoimintayksikön sulkeminen.
Seuranta ei ole vastuun kantamista
Seuranta typistyy usein koontinäytöiksi, mutta ne eivät estä epäonnistumisia.
Ratkaisevaa on määritelty vastuu: kuka seuraa signaaleja, mikä käynnistää asian viemisen eteenpäin ja kenen odotetaan toimivan.
Deloitte Australian tapaus osoittaa, mitä tapahtuu tämän puuttuessa. Viranomaisraportti sisälsi keksittyjä lähdeviitteitä ja virheellisiä oikeudellisia viittauksia, koska kenelläkään ei ollut nimenomaista vastuuta tuotosten tarkistamisesta ennen toimitusta. Seurauksena oli osittainen hyvitys ja mainehaitta.
Agenttipohjainen tekoäly: Tuleva on vielä vaikeampaa
Generatiivinen tekoäly tuottaa sisältöä. Agenttipohjainen tekoäly toimii. Tämä muuttaa riskin kokonaan.
Yhden arvioitavan vastauksen sijaan yksi ohje voi käynnistää eri järjestelmien läpi kulkevan päätösketjun: API-kutsuja, tietojen käyttöä, tapahtumia ja päivityksiä, usein ilman ihmisen osallistumista jokaiseen vaiheeseen.
Ongelman sattuessa kyse ei enää ole oikeellisuudesta vaan jäljitettävyydestä. Mikä vaihe aiheutti ongelman? Mitä tietoja käytettiin? Kuka valtuutti toimen? Jälkikäteen näihin on usein vaikea vastata.
Juuri silloin nykyiset puutteet muuttuvat kriittisiksi. Epäselvä vastuu, heikko seuranta ja puuttumismahdollisuuden puute eivät vain jatku, vaan niiden vaikutukset kasautuvat. Virheellisen vastauksen voi korjata. Virheellinen toimi voi aiheuttaa seurauksia ennen kuin kukaan huomaa.
Varhaiset merkit viittaavat jo tähän suuntaan. Gartner arvioi, että yli 40 % agenttipohjaisen tekoälyn hankkeista perutaan vuoteen 2027 mennessä. Syynä eivät ole mallien rajoitukset vaan organisaatioiden vaikeudet hallita kustannuksia, riskejä ja tuloksia. Sama kaava näkyy generatiivisen tekoälyn käyttöönoton jälkeen, mutta nyt panokset ovat suuremmat.
Viranomaiset vastaavat jo yksinkertaisella periaatteella: automaatio ei poista vastuuta. Organisaatioille seuraus on selvä. Jos vastuut ja hallinta ovat epäselviä nyt, laajentuminen agenttijärjestelmiin ei ratkaise ongelmaa vaan voimistaa sitä.
Hallitse toimintaa tai menetä järjestelmä
Tekoäly ei enää ole rajoite. Malleja on laajalti saatavilla, ne ovat kyvykkäitä ja yhä enemmän keskenään korvattavia perushyödykkeitä. Todellinen erottava tekijä ei ole kyky rakentaa tekoälyä vaan kyky käyttää ja ylläpitää sitä luotettavasti käyttöönoton jälkeen.
Useimmat epäonnistumiset tapahtuvat juuri järjestelmien käytössä, eivät niiden rakentamisessa. Menestyviä organisaatioita eivät ole ne, joilla on edistyneimmät mallit, vaan ne, joilla on selkeimmät niitä ympäröivät toiminnalliset rakenteet.
Tätä voi testata suoraan. Valitse tärkein tekoälyjärjestelmäsi ja vastaa kolmeen kysymykseen:
- Kuka voi sulkea sen?
- Mistä tiedätte, että se epäonnistuu?
- Mitä silloin tapahtuu?
Jos vastaukset ovat epäselviä, järjestelmä ei ole valmis tuotantoon.
Malli saattaa olla. Organisaatio ei ole.












