Miksi sokean luottamuksen sijoittaminen tekoälyyn voi olla huonin päätöksesi

Vuonna 1979 IBM:n koulutusohjelma antoi yksinkertaisen mutta merkittävän varoituksen: “Tietokone ei voi koskaan olla vastuussa; siksi tietokone ei saa tehdä johtamispäätöksiä.” Ja yli 45 vuotta myöhemmin tämä lause kuulostaa jätetystä profetiasta.

Vuonna 2025 tekoäly ei ainoastaan avusta, vaan se tekee itsenäisiä päätöksiä, ja monissa tapauksissa se ei ainoastaan päättäisi, vaan se johtaisi. Itse asiassa noin 74% johtajista luottaa tekoälyyn liiketoimintaneuvonantajana enemmän kuin kollegoihin tai ystäviin, 38% luottaa tekoälyyn liiketoimintapäätöksissä, ja 44% antaa tekoälyn perustelujen voittaa oman arvionsa. Muutos on selvä; tekoäly on uusi vaistonvarainen olemus.

Mutta ongelma on. Luottamus tekoälyyn on mahdollista vain, jos algoritmi on luotettava. Ja kun luottamus sijoitetaan sokeasti, erityisesti mustiin laatikoihin, joita emme voi ymmärtää tai tarkastaa, se on riski, joka naamioituu edistysaskelena. Ihmisen johtajuuden tapaan, luottamus ilman vastuuta on vaarallista, ja kun tekoäly tekee virheen, kuka ottaa vastuun?

Kun työkalu muuttuu pomoksi

Se, mistä alun perin tuli työkalu toimiston taustatoimien sujuvoittamiseen, on nyt käytössä liiketoiminnan ydinprosesseissa. Mutta yritykset eivät ainoastaan käytä tekoälyä tukemaan ihmisten päätöksiä; he luottavat tekoälyyn, erityisesti generatiiviseen tekoälyyn (GenAI), tekemään liiketoimintapäätöksiä, liiketoimintastrategiasta asiakaspalveluun, rahoitusmallintamiseen ja muihin.

Tämä muutos on ymmärrettävää. Tekoäly ei häikäile, unohda ohjeita tai anna tunteiden pilata tuomionsa. Monille yrityksille tämä tarjoaa houkuttelevan vastapainon ihmisen virheiden riskeille. Mutta yksi avainkysymys jää: voidaanko tekoälylle luottaa johtamaan ja tehdä päätöksiä itsenäisesti?

Se ei ole suoraviivainen vastaus, mutta yksi tapa tarkastella sitä on, miten arvioidaan ihmisten luotettavuutta: heidän osaamisensa, luotettavuutensa ja selkeän tarkoituksensa perusteella. Samat periaatteet pätevät tekoälyyn.

Jotta tekoälyjärjestelmä voidaan luottaa, se on toimitettava tuloksia, jotka ovat tarkkoja, ajankohtaisia ja sovellettavissa. Mutta luottamuksen taso ja virheen sietämismahdollisuus vaihtelevat asiayhteydestä riippuen. Esimerkiksi kun diagnosoidaan syöpää lääketieteellisistä kuvista, virheen kynnys on erittäin alhainen. Toisaalta, kun luodaan ideoita markkinointikampanjaan, on enemmän tilaa kokeiluille.

Olemme nähneet tekoälyn käytön itsenäisissä päätöksissä, kuten luottopäätöksissä, joissa pankit käyttävät algoritmeja määrittämään lainan saamisen edellytyksiä sekunneissa. Vähittäiskauppiaat käyttävät tekoälyä varastojen ja hinnoittelun hallintaan ilman ihmisen syöttämää tietoa. Mutta olemme myös nähneet epäonnistumisia – kuten itseohjautuvat autot, jotka väärin arvioivat tieliikenneolosuhteita.

Yksi varoittava esimerkki osoittaa sokean luottamuksen tekoälyyn liittyvät riskit ilman riittävää valvontaa. Derek Mobley – yli 40-vuotias musta mies – haki yli 100:aan asemaan Workday-ai-ohjattujen palkkatuotteiden kautta vuodesta 2017 lähtien ja hänet hylättiin jokaisella kerralla. Hän väitti syrjintää iän ja rodun perusteella. Toukokuussa 2025 tuomioistuin myönsi valtakunnallisen kollektiivisen oikeuden. Luokka käsittää kaikki yli 40-vuotiaat hakijat, jotka hakiessaan Workdayn kautta vuoden 2020 syyskuun jälkeen ja jotka evättiin ai-päätösten perusteella.

Tämä esimerkki korostaa tärkeää seikkaa: tekoäly puuttuu tunteiden äly, moraalinen päättely tai luonnollinen oikeudenmukaisuuden tunne. Ja koska tekoäly siirtyy ihmisen avustajasta itsenäiseksi päätöksentekijäksi, on nyt vastuun aukko. Kun algoritmit on sallittu toimimaan ilman ihmisen tarkastusta, ne voivat ja tekevät virheitä ja vahvistavat olemassa olevia ennakkoluuloja.

Kysymys mustista laatikoista

Mustat laatikot – kun tekoälyn järjestelmä ja logiikka eivät ole täysin näkyvissä – ovat yhä yleisempiä. Vaikka niillä voi olla näkyviä kerroksia, kehittäjät ja käyttäjät eivät voi nähdä, mitä kussakin kerroksessa tapahtuu, mikä tekee niistä läpinäkymättömiä.

Esimerkiksi ChatGPT on musta laatikko, koska sen luojatkaan eivät tiedä, kuinka se toimii, koska se on koulutettu niin suurilla tietojoukoilla. Mutta puutteellisen avoimuuden vuoksi, onko koskaan ok “luottaa” tekoälymalliin ilman täydellistä ymmärtämistä siitä, miten se toimii?

Lyhyesti sanottuna, ei: Tekoälyn harhat pahenevat. Tämä tarkoittaa, että korkean panoksen tilanteissa, kuten taloudellisissa päätöksissä, oikeudellisissa neuvoissa ja lääketieteellisissä oivalluksissa, tekoäly vaatii tiukkaa validointia, ristiriitaisuuden tarkastelua ja ihmisen valvontaa.

Disney-yhtiön ja Universalin kanteen kesäkuussa 2025 vahvistaa tämän seikan. Studiot väittävät, että GenAI-työkalut on koulutettu tekijänoikeuksien alaisilla materiaaleilla luomaan uutta sisältöä ilman lupaa. Tämä tapaus korostaa uutta todellisuutta: kun yritykset käyttävät tekoälymalli, joita eivät täysin ymmärrä, heidät voidaan pitää vastuussa tehtyjen päätösten perusteella. Ja tietämättömyys ei ole puolustus; se on vastuuta.

Kuitenkin usein luotamme monimutkaisiin järjestelmiin, joita emme ymmärrä. Esimerkiksi useimmat lentomatkat eivät voi selittää lentokoneen fysiikkaa, mutta ihmiset nousevat lentokoneisiin luottavaisesti, koska olemme rakentaneet luottamusta toistuvan altistumisen, yhteisen kokemuksen ja vahvan turvallisuuden jalanjäljen kautta.

Sama logiikka voidaan soveltaa uudelleen tekoälyyn. On epärealistista odottaa, että jokainen ymmärtää, miten LLM:t tosiasiallisesti toimivat. Mutta luottamus ei perustu ymmärtämiseen; se edellyttää tuttavuutta, avoimuutta rajoituksista ja todistettua luotettavaa suorituskykyä. Ilmailuinsinöörit tietävät, mitä testejä asettaa paikalleen ja miltä virheet näyttävät, ja meidän on vaadittava samaa GenAI-toimittajilta. Tekoälyn perussääntö on luottamus, mutta varmista.

Lisäksi liiketoimintajohtajat usein uskovat, että tekoäly on hopeinen luoti, joka ratkaisee kaikki liiketoimintahaasteet. Mutta tämä myytti vaivaa monia yrityksiä, jotka integroivat tekoälyä. Johtajat saattavat suosia monimutkaisia ja sofistikoituneita malleja, mutta yksinkertaisempi ratkaisu saattaa olla sovelias, jos he suorittavat kustannus-hyötyanalyysin. Tekoäly on voimakas väline, mutta se ei sovellu jokaiseen tehtävään. Yritysten on tunnistettava ongelma ennen työkalun valintaa.

Tekoälyyn luottamuksen uudelleenrakentaminen

Vaikka on selvää, että sokean luottamuksen sijoittaminen tekoälyyn on ongelma, tekoälyjärjestelmät ja -algoritmit voivat olla suurin työkalu, jonka yrityksellä on koskaan ollut – kun niitä käytetään turvallisesti.

Yrityksille, jotka haluavat hyödyntää tekoälytyökaluja, ensimmäinen asia, jota on tutkittava, on toimittajan tutkiminen. Kun yritys on tunnistanut alueen, josta voisi hyötyä tekoälyn tehokkuudesta, liiketoimintajohtajien on arvioitava toimittajia ei ainoastaan suorituskyvyn perusteella vaan myös hallintomekanismien perusteella. Tähän sisältyy mallejen kehittämisen tarkastelu, selkeiden työkalujen olemassaolo, syrjinnän seuranta ja auditin jäljittäminen. Toimittajan valinta, jolla on avoimet prosessit, on olennainen riskin vähentämiseksi alusta alkaen.

Ehkä tärkein seikka tekoälyjärjestelmien luottamuksen rakentamisessa on tietojen hallinta puhtailla, edustavilla ja hyvin asiakirjoitettuilla tietojoukoilla. Kuten sanonta kuuluu: “roska sisään, roska ulos.” Siksi, jos tiedot ovat epätäydellisiä, syrjiviä tai epätarkkoja, jopa edistynein malli tuottaa epäluotettavia tuloksia.

Tietojen varmistamiseksi tekoälylle yritysten on:

• Tarkastettava olemassa olevia tietoja aukkoja ja duplikaatteja varten ja tarkastettava syrjinnän lähteitä

• Standardoimalla tietomuodot

• Toteuttamalla tietohallintopolitiikkaa, joka määrittää omistajuuden ja pääsyoikeudet

Toinen avainaskel liiketoimintajohtajille on järjestelmän testaaminen eri olosuhteissa. Vaikka malli saattaa menestyä kontrolloiduissa testeissä, on kriittistä ymmärtää mallin rajoitukset, kun se kohtaa uusia tietoja tai syötteitä, joita se ei odottanut. Tämän vuoksi on tärkeää testata tekoälyä erilaisissa tilanteissa, eri käyttäjätyypeillä, eri käyttötarkoituksilla ja eri aikakausien tietojen kanssa.

Tekoälyn validointi on myös jatkuva tehtävä. Koska tiedot muuttuvat ajan myötä, jopa luotettavat tekoälymallit voivat menettää tarkkuutensa. Siksi säännöllinen seuranta on olennainen. Yritysten on seurattava, miten malli suoriutuu päivittäin: onko se edelleen tarkka? Vai ovatko virheelliset positiiviset lisääntyneet? Ja kuten minkä tahansa järjestelmän ylläpito, malleja on uudelleenkoulutettava säännöllisesti tuoreilla tiedoilla, jotta ne pysyvät relevantteina.

Tekoäly ei ole luotettava tai epäluotettava; se on muotoiltu tietojen perusteella, joita se oppii, ihmisistä, jotka luovat sen, ja säännöistä, jotka ohjaavat sitä. Kun tekoäly kehittyy hyödyllisestä työkalusta liiketoimintaneuvonantajaksi, johtajilla on mahdollisuus käyttää sitä ei ainoastaan ajatellen vaan myös eettisesti. Jos teemme tämän oikein, tekoäly ei ainoastaan ole voimakas tulevaisuudessa vaan myös vastuullinen, ja vastuu on selvästi kehittäjillä ja valvojilla.