Miksi Enterprise AI menee rikki käyttöönoton jälkeen – ja mitä siihen voidaan tehdä

Varoitus: Ongelma ei ole mallissa

Vuonna 2023 New Yorkin kaupunki lanseerasi MyCity-keskustelubotin, jotta yritykset voivat helpommin navigoida monimutkaisissa säännöksissä. Idean takana oli yksinkertainen ajatus: tehdä lakitiedot helpommin saataville.

Käytännössä järjestelmä tuotti vastauksia, jotka eivät olleet vain väärin, vaan myös oikeudellisesti harhaanjohtavia – työsääntöjen, asuntodiskriminaation ja maksusääntöjen suhteen.

Myöhemmin tehty tarkastus osoitti, että 71,4% käyttäjien palautteesta oli negatiivista. Sen sijaan, että olisi korjattu perussyyt, vastaus oli lisätä varoituksia. Keskustelubotti pysyi “beetaversiossa” yli kaksi vuotta, kunnes se lopetettiin.

Epäonnistuminen ei ollut tekninen. Järjestelmä meni rikki tuotannossa, koska siinä ei ollut mekanismia, joka olisi varmistanut tarkin ja selkeän vastuun, eikä keinoa, jolla voitiin puuttua, kun asioita meni pieleen.

Tämä on taustalla oleva kaava nykyisessä yritys-AI:ssa: teknologia toimii, mutta organisaatiot eivät ole järjestäytyneet toimimaan sitä luotettavasti, kun se on käytössä.

Kokeilusta tuotantoon: Missä kaikki menee pieleen

Kokeilun rakentaminen on melko suoraviivainen – valitse käyttötapa, valitse malli, valmistele data, löydä sponsori. Järjestelmän käyttöönotto tuotannossa on kokonaan toinen asia.

Erillinen on kuin ero hyppiä uima-altaaseen ja hyppiä stratosfääriin, kuten Felix Baumgartner teki vuonna 2012. Sama perusfysiikka, täysin erilaiset olosuhteet – ja erilaiset seuraukset, jos epäonnistutaan.

Tuotannossa AI tulee osaksi todellisia päätöksentekoprosesseja, vuorovaikuttaa asiakkaiden kanssa ja luo oikeudellisia ja operatiivisia seuraamuksia. Siinä alkaa ilmetä aukkoja – ei mallissa, vaan siinä, miten sitä hallitaan.

Europa tekee tämän näkyväksi aikaisemmin kuin useimmat alueet. Säännökset, kuten EU:n AI-laki, GDPR ja NIS2, eivät hidasta omaksumista – ne paljastavat, voivatko organisaatiot toimia AI-järjestelmiä todellisissa rajoituksissa.

Vuonna 2025 55% suurista EU-yrityksistä käytti jo AI:ta. Omaksuminen on jo tapahtumassa laajassa mittakaavassa. Haaste on, mitä tapahtuu käyttöönoton jälkeen.

Siihen asti perussäännökset alkavat tulla esiin. Usein kukaan ei voi vastata niihin: Kuka on vastuussa AI-tuloksista ja autonomisista päätöksistä? Mitä tapahtuu, kun järjestelmä toimii odottamattomalla tavalla? Ja kuka ottaa kiinni siitä, ennen kuin vahingot pääsevät median tietoon?

Vastuu on yrityksellä, ei teknologialla. Air Canadan keskustelubotti antoi asiakkaalle virheellistä tietoa surun menetyksestä. Asiakas luotti siihen ja myöhemmin evättiin korvaus. Tribunaali totesi, että lentoyhtiö oli vastuussa – keskustelubotti ei ollut erillinen yksikkö.

Sama ongelma, eri näkökulma: McDonald’s McHire -järjestelmä paljasti arkaluontoisia tietoja lähes 64 000 hakijalta. Syy ei ollut kehittynyt hyökkäys – hallintakirjautumisessa käytettiin “admin” ja “123456”. Järjestelmä näytti kehittyneeltä. Epäonnistuminen oli perustavanlaatuinen.

Kun kiinnität hallintoa toimivaan järjestelmään, se on jo liian myöhäistä. Järjestelmän käyttöönotto on tekninen päätös. Sen luotettava toiminta on organisaatiopäätös. Ja se on se osa, jota useimmat yritykset aliarvioivat.

Kuka omistaa todella AI-riskin? Kukaan.

Tämä on sydänongelma, ja paradoksaalisesti se on vähiten keskusteltu. IT hallitsee infrastruktuuria. Lakiasiat hoitaa lakitoimi. Liiketoimintatiimit työntävät käyttötapausten eteen. Mutta kukaan ei omista lopputuloksena olevaa AI-riskiä.

Tämä luo kaksi välitöntä ongelmaa. “Käynnistä”-päätös hidastuu – koska kukaan ei halua ottaa vastuuta. Ja “pysäytä”-päätös hidastuu yhtä lailla – koska kukaan ei tiedä, kuka voi.

Data heijastaa tätä. Vain alle 10% AI-käyttötapausten pääsee kokeilusta tuotantoon, ja useimmat organisaatiot kamppailevat saadakseen mitattavia liiketoimintavaikutuksia. Samaan aikaan monet ovat jo käyttöönotossa AI:ta – mutta hallintokypsyyskysely osoittaa, että vain 7%:lla on hyvin järjestetty ja johdonmukaisesti sovellettava hallinto.

Miksi tämä tapahtuu niin johdonmukaisesti? Koska useimmat kehykset ja yrityspolitiikat määrittelevät, mitä pitäisi tapahtua – eivät kuka on vastuussa, kun se on tärkeää. Kun järjestelmä alkaa tuottaa virheellisiä tuloksia perjantaina keskiyöllä, kysymys ei ole teoreettinen. Kuka toimii? Ja kuka on valtuutettu päättämään?

Tämä vain pahenee mittakaavassa. Yksi järjestelmä voidaan hallita epävirallisesti. Kun sinulla on kolmekymmentä, vastuu hajoaa tiimien välillä, eikä kukaan ole kokonaiskuvasta.

Commonwealth Bank of Australia tarjoaa selvän esimerkin. Pankki korvasi 45 asiakaspalvelutyöntekijää älykkäillä ääniboteilla, odottaen, että kysyntä laskee. Se ei laskenut. Puhelumäärät lisääntyivät, johtajat astuivat puuttumaan ylijäämään, ja pankki joutui palkkaamaan kaikki 45 työntekijää uudelleen. Haastettaessa pankki ei voinut osoittaa, että automaatio oli vähentänyt työmäärää.

Kukaan ei ollut validoitu oletuksia ennen käyttöönottoa. Kukaan ei omistanut lopputulosta, kun ne oletukset epäonnistuivat. Se on vastuun tyhjiö käytännössä.

Säännöt eivät riitä. Tarvitaan mekanismi

Useimmat organisaatiot eivät laiminlyö sääntöjä. Ne laiminlyövät järjestelmiä, jotka toimivat, kun jotain menee pieleen.

Sääntö määrittelee, mitä pitäisi tapahtua. Mekanismin määrittää, mitä todella tapahtuu – kun malli tuottaa virheellisiä tuloksia, kun toimittaja muuttaa jotain taustalla tai kun järjestelmä alkaa toimia odottamattomalla tavalla.

Tämä ero tulee näkyväksi tuotannossa – kun päätöksiä on tehtävä oikeissa olosuhteissa.

Nämä epäonnistumiset seuraavat johdonmukaista dynamiikkaa. Jokaisessa tapauksessa samat operatiiviset aukot ilmestyvät – vain eri muodossa.

Omistajuus tulee ensin

Jokaisen käyttöönotetun AI-järjestelmän on oltava selkeästi vastuussa oleva omistaja – yksi henkilö, ei ryhmä tai osasto, jolla on valtuudet hyväksyä, keskeyttää ja lopettaa sen.

Ilman sitä ei ole mahdollista nopea käyttöönotto eikä turvallinen puuttuminen. Kuten Commonwealth Bankin esimerkissä nähtiin, selkeän omistajuuden puute johtaa suoraan operatiiviseen epäonnistumiseen.

Data ja oikeudellinen selkeys usein puuttuvat

Monet järjestelmät menevät tuotantoon ilman dokumentoituja data-virtoja, vahvistettua oikeudellista perustaa tai selkeyttä siitä, mitkä velvollisuudet ovat voimassa, kun järjestelmä on tuotannossa.

Italian sääntelijän toimi DeepSeekiä vastaan vuonna 2025 osoittaa tämän selvästi. Ongelma ei ollut mallin laatussa – se oli kyvyttömyys selittää, miten henkilötietoja käsiteltiin. Tuloksena oli äkkiäinen palvelun keskeytys Euroopan käyttäjille.

Testaus harvoin heijastaa todellista käyttöä

Järjestelmiä arvioidaan usein skenaarioissa, joissa ne suoriutuvat hyvin, mutta ei niissä tapauksissa, joissa epäonnistuminen olisi tärkeää.

MyCity-keskustelubotti on selkeä esimerkki. Perusreunatapaukset – työlainsäädännöstä, asuntodiskriminaatiosta tai maksusäännöistä – eivät olleet havaittavissa ennen käyttöönottoa. Kun ne paljastuivat todellisille käyttäjille, ne tulivat julki välittömästi.

Testaus ei ole vain suorituskyvyn arvioimista – se on myös siitä, miten järjestelmä epäonnistuu ennen kuin käyttäjät, sääntelijät tai journalistit huomaavat sen.

Puuttuminen on epäselvä tai liian hidas

Jopa kun ongelmat ovat näkyvissä, ei usein ole selkeää laukaisinta tai valtuutusta keskeyttää tai lopettaa järjestelmää.

Zillow Offers osoittaa tämän laajassa mittakaavassa. Järjestelmä käytti algoritmia asuntojen hinnoitteluun ja osto- ja myyntiin. Kun markkinat viilettyivät vuonna 2021, järjestelmä jatkoi ostamista inflatoituneilla hinnoilla. Siinä ei ollut mekanismia, jolla voitiin havaita muutoksia ajallaan, eikä selkeää päätöspistettä lopettaa sitä. Tuloksena oli yli 880 miljoonan dollarin tappiot ja koko jaoston sulkeminen.

Valvonta ei ole omistajuutta

Valvonta on usein supistettu dashboardiin, mutta se ei estä epäonnistumisia.

Mikä on tärkeää, on määritelty vastuu: kuka seuraa signaaleja, mitkä laukaisevat eskalaation, ja kuka on odotettavissa toimivan.

Deloitte Australian tapaus osoittaa, mitä tapahtuu, kun sitä puuttuu. Hallituksen raportti sisälsi kuvitteellisia viittauksia ja virheellisiä oikeudellisia viittauksia, koska kukaan ei ollut nimenomaisesti vastuussa tuloksien vahvistamisesta ennen toimittamista. Tuloksena oli osittainen hyvitys ja mainevahinko.

Agentic AI: Mitä tulee, on vielä vaikeampaa

Generatiivinen AI tuottaa tuloksia. Agentic AI tekee toimia. Se muuttaa riskin kokonaan.

Sen sijaan, että arvioitaisiin yksittäistä vastausta, yksi käsky voi laukaista päätösten ketjun eri järjestelmissä – API-kutsut, datakäyttö, transaktiot, päivitykset – usein ilman ihmisen väliintuloa kussakin vaiheessa.

Kun jotain menee pieleen, ongelma ei ole enää tarkin. Se on jäljittämisessä. Mikä vaihe aiheutti ongelman? Mikä dataa käytettiin? Kuka valtuutti toiminnan? Monissa tapauksissa nämä kysymykset ovat vaikeita vastata jälkikäteen.

Se on siellä, missä olemassa olevat aukot tulevat kriittisiksi. Epäselkeä omistajuus, heikko valvonta ja puutteellinen puuttuminen eivät vain jatku – ne kasautuvat. Virheellinen vastaus voidaan korjata. Virheellinen toimi voi luoda seuraamuksia, ennen kuin kukaan huomaa.

Aikaiset signaalit osoittavat jo tähän suuntaan. Gartnerin arvio mukaan yli 40% agentic AI -projekteista peruutetaan vuoteen 2027 mennessä – ei mallin rajoitusten vuoksi, vaan koska organisaatiot kamppailevat hallitsemaan kustannukset, riskit ja tulokset. Se on sama kaava, jonka näemme generatiivisella AI:lla käyttöönoton jälkeen. Vain korkeammilla panoksilla.

Sääntelijät ovat jo vastaamassa yksinkertaisella periaatteella: automaatio ei poista vastuuta. Organisaatioille se luo selkeän implikaation: jos omistajuus ja hallinta ovat epäselvät tänään, skaalautuminen agentic-järjestelmiin ei ratkaise ongelmaa. Se lisää sitä.

Toimi se – tai menetä se

AI ei ole enää rajoitus. Mallit ovat laajasti saatavilla, kykeneviä ja yhä enemmän kommodisoituneita. Todellinen erottaja ei ole se, voivatko organisaatiot rakentaa AI:ta – vaan voivatko he toimia siitä luotettavasti, kun se on käytössä.

Siinä menee useimmat epäonnistumiset – siinä, miten järjestelmiä ajetaan, ei siinä, miten ne rakennetaan. Organisaatiot, jotka onnistuvat, eivät ole niitä, joilla on kehittyneimmät mallit. Ne ovat niitä, joilla on selkeimmät operatiiviset rakenteet niiden ympärillä.

Tämä voidaan testata suoraan. Ota tärkein AI-järjestelmäsi ja vastaa kolmeen kysymykseen:

• Kuka voi lopettaa sen?
• Miten tiedät, kun se epäonnistuu?
• Mitä tapahtuu, kun se epäonnistuu?

Jos nämä vastaukset ovat epäselvät, järjestelmä ei ole valmis tuotantoon.

Malli saattaa olla. Organisaatio ei ole.