Tekoäly tarvitsee edelleen valmentajan ja ihmisen valvonta tarvitsee toimintasuunnitelman

Tekoäly on kaikkialla, minne katsotkin, eikä ammattilaisjalkapallo ole poikkeus.

NFL on lanseerannut Digital Athlete -ohjelman, joka hyödyntää dataa ja tekoälyä auttaakseen joukkueita tunnistamaan tilanteita, joissa pelaajat saattavat kohdata kohonnutta loukkaantumisriskiä. Se yhdistää videon ja tiedot harjoittelusta, treeneistä ja peleistä miljooniin simulaatioihin, jolloin kaikki 32 joukkuetta saavat käyttöönsä liigan laajuisia trenditietoja. Valmentajat ja valmennushenkilöstö käyttävät näitä tietoja kehittääkseen yksilöllisiä loukkaantumisen ehkäisy-, harjoittelu- ja palautumisohjelmia.

Vaikka teknologia “lukee” kenttää, valmentajat ovat edelleen vastuussa päätöksenteosta. Kun organisaatiot laajentavat tekoälyn käyttöä liiketoimintaprosesseihin, kuten vaatimustenmukaisuuteen ja työpaikkatutkintoihin, automaation mahdollisuudet vaikuttavat rajattomilta. Mutta mitkä tehtävät tulisi antaa tekoälyn hoitaa, millä ehdoilla ja millaisella ihmisen valvonnalla?

Juuri tässä organisaation toimintasuunnitelma voi asettaa sävyn: se tarjoaa valmentajille välineet hyödyntää tekoälytyökaluja samalla säilyttäen ihmisen valvonnan siellä, missä se on kriittistä.

Anna tekoälylle rooli, älä koko kenttä

Tutkinnat vaihtelevat riskitasoiltaan. Tekoäly voi auttaa järjestämään tietoa alkuperäisistä raporteista ja:

• Tunnistaa puuttuvat tiedot
• Tiivistää tiedot lopulliseen raporttiin
• Rakentaa aikajanoja
• Paljastaa kuvioita, joita tutkijat saattavat haluta tarkastella tarkemmin

Nämä käyttötapaukset voivat vähentää manuaalista lajittelua ja vapauttaa aikaa tehtäviin, jotka vaativat ihmisen harkintaa.

On syytä huomata, että tekoäly voi tiivistää väitteitä, mutta se ei pysty päättämään, onko väite uskottava. Tekoäly voi havaita epäjohdonmukaisuuden, mutta ei voi selvittää, miksi se on olemassa. Tässä organisaatiot voivat ajautua pulaan, jos käyttävät tekoälyä ilman suojamekanismeja.

Valvonnan ylläpitämiseksi tekoäly tarvitsee määritellyn roolin. Organisaatioiden tulisi päättää:

• Mitä tehtäviä järjestelmä on tarkoitettu suorittamaan
• Mitä tietoja se voi käyttää
• Mitä se saa tehdä – mitkä ovat sen rajat
• Milloin henkilö tarvitsee ottaa ohjat käsiinsä

National Institute of Standards and Technologyin AI Risk Management Framework tarjoaa hyödyllisen vertailukohdan. NISTin tiekartta kuvaa AI RMF -profiileja tapana osoittaa, miten viitekehystä voidaan soveltaa tiettyihin sektoreihin, teknologioihin, konteksteihin tai muihin asetelmiin. Toisin sanoen vastuullinen tekoälyhallinto muuttuu konkreettisemmaksi, kun organisaatiot kääntävät laajat periaatteet tietyn käyttötapauksen todellisuuteen.

Tekoälytoimintasuunnitelma voi tehdä samankaltaisen asian operatiivisella tasolla. Se määrittelee roolit, tilanteet ja toimenpiteet tarkasti.

Ihmisen valvonta on järjestelmämuotoiluongelma

Ilmaus “human in the loop” on yleistynyt vastuullista tekoälyä koskevissa keskusteluissa. Mutta ihmisen läsnäolo jossain työnkulussa ei automaattisesti tee tekoälyjärjestelmästä hyvin hallittua.

NIST on tunnistanut ihmis‑tekoäly‑tiimityön tärkeäksi tutkimus- ja ohjausalueeksi tekoälyn riskienhallinnassa. Se nostaa esiin esimerkiksi sen, miten ihmiset tulkitsevat tekoälyn tuottamia tuloksia ja miten ihmiset valvovat tekoälyjärjestelmiä todellisissa ympäristöissä.

Ihmisen valvontaa ei tule pitää tilapäisenä kiertotapana, kunnes tekoäly on riittävän kehittynyttä toimimaan itsenäisesti. Monissa korkean riskin ympäristöissä se on osa vaadittua arkkitehtuuria, jotta tekoälyä voidaan käyttää vastuullisesti pitkällä aikavälillä.

Vertaisarvioitu tarkastelu ihmisen valvonnasta tekoälyhallinnossa toteaa, että ihmisen valvojien odotetaan parantavan tarkkuutta ja turvallisuutta ihmisen arvojen puolustamiseksi ja luottamuksen rakentamiseksi. Kuitenkin ihmiset eivät aina ole luotettavia valvojia. Tehokas valvonta riippuu osaamisesta, kannustimista ja valvontaroolin suunnittelusta.

Tutkijalle pelkkä pyyntö hyväksyä tekoälyn tuottama suositus ei riitä, jos häneltä puuttuu tarvittavat tiedot tai valtuudet kyseenalaistaa se. Toimintasuunnitelman on määriteltävä paitsi se, että ihminen on mukana, myös miten ja milloin kyseinen henkilö voi puuttua asiaan.

Käsittelyn merkitys on yhtä suuri kuin malli

Toinen haaste on, että vaikka ihmisellä on lopullinen valta, tapa, jolla tekoäly esittää tiedot, voi vaikuttaa seuraavaan päätökseen.

Vuoden 2025 esipainojutututkimus Kalifornian yliopiston Santa Barbaran tutkijoilta havainnollistaa, miksi käyttöliittymän suunnittelu on tärkeää. Kontrolloidussa kokeessa, jossa 108 osallistujaa teki terveydenhuollon päätöksiä, tutkijat testasivat kuutta erilaista tekoälyn päätöksentukituen muotoa. He havaitsivat, että mekanismit kuten tekoälyn luottamustiedot, tekstiselitykset ja suorituskyvyn visualisoinnit paransivat ihmisen ja tekoälyn päätöksenteon tarkkuutta kokeessa.

Tutkimus korostaa myös automaatiobiasin riskiä: ihmiset voivat liiallisesti luottaa tekoälyn ehdotuksiin, myös virheellisiin.

Koe osoittaa, miksi koneen ja ihmisen välinen siirtymä vaatii harkittua suunnittelua ja testausta.

Kun tätä ajatellaan laajemmassa mittakaavassa ja otetaan mukaan tutkinnan käsite, nousee esiin useita kysymyksiä:

• Näkeekö tutkija vain tekoälyn tuottaman johtopäätöksen, vai voiko hän tarkastella sen taustalla olevaa tietoa?

• Voiko järjestelmä viestiä epävarmuudesta?

• Onko selkeää, kun tietoa puuttuu?

• Voivatko tutkijat hylätä tuloksen ja dokumentoida syyn?

Nämä ovat hallintokysymyksiä yhtä paljon kuin teknisiä.

Viisi kysymystä, joihin jokaisen tekoälytoimintasuunnitelman on vastattava

Hyödyllisen tekoälytoimintasuunnitelman tulisi muuttaa abstraktit periaatteet, kuten “vastuullinen tekoäly” ja “ihmisen valvonta”, konkreettisiksi toimintatavoiksi.

1. Mitä tekoäly saa tehdä? Organisaatioiden tulisi valtuuttaa tietyt tehtävät sen sijaan, että antaisi laajan oikeuden käyttää tekoälyä koko työnkulussa.
2. Mitä tietoja se voi käyttää? Tutkintojen ja ilmiantotapauksien yhteydessä organisaatioiden on asetettava selkeät rajat tekoälyjärjestelmän käytettävissä oleville tiedoille ja niiden käsittelylle.
3. Miten ihmiset arvioivat sen tuotoksen? Ihmisen tarkistajien on saatava riittävästi kontekstia ymmärtääkseen, mitä järjestelmä on tuottanut, sen merkitykselliset rajoitukset sekä tiedot, jotka tarvitaan tuloksen kyseenalaistamiseen.
4. Milloin ihmisen on puututtava asiaan? Toimintasuunnitelman tulisi määritellä eskalointipikat, eikä luottaa yksittäisten työntekijöiden päätökseen siitä, milloin tekoäly on mennyt liian pitkälle.
5. Missä tekoälyn valtuutus päättyy? Joidenkin päätösten on vaadittava ihmisen harkintaa, ja näiden päätösten vastuullisilla henkilöillä on oltava todellinen valtuus sivuuttaa, ohittaa tai pysäyttää teknologia.

Nämä ajatukset heijastuvat yhdeksi maailman merkittävimmistä tekoälysääntelyn osista. EU:n tekoälyasetuksen artikla 14 asettaa ihmisen valvontavaatimuksia tekoälyjärjestelmille, jotka kuuluvat asetuksen korkean riskin luokkaan. Siinä todetaan, että valvontatoimenpiteiden on oltava suhteessa järjestelmän riskeihin, autonomiaan ja käyttökontekstiin. Lisäksi valvojien on pystyttävä ymmärtämään olennaiset kyvyt ja rajoitukset, tulkitsemaan tuloksia oikein, pysymään valveilla automaatiobiasia vastaan, sivuuttamaan tai ohittamaan tuloksia sekä puuttumaan järjestelmän toimintaan tai pysäyttämään sen.

Tämä ei tarkoita, että jokainen tekoälytyökalu, jota käytetään tutkinnassa, olisi automaattisesti korkean riskin järjestelmä. Viitekehys havainnollistaa tärkeän periaatteen tekoälyhallinnossa. Ihmisen valvonnan on tarjottava ihmisille merkityksellisiä mahdollisuuksia, ei pelkästään paikkaa työnkulussa.

Tekoäly ei korvaa valmentajaa. Se muuttaa, mitä valmentaja näkee.

NFL:n Digital Athlete on vaikuttava, ei siksi että se osoittaisi tekoälyn voivan korvata valmentajat, vaan koska se näyttää, miten kehittynyt teknologia voi laajentaa kokeneiden ammattilaisten saatavilla olevaa tietoa.

Tekoäly voi auttaa ihmisiä käymään läpi tietoa, nostaa esiin sen, mikä ansaitsee huomion, ja luoda suurempaa johdonmukaisuutta toistettavissa tehtävissä. Kuitenkin tutkinnan merkittävimmät hetket vaativat usein jotain muuta: kontekstia, skeptisyyttä, tulkintaa ja vastuullisuutta.

Organisaatiot, jotka ovat parhaiten asemoituja hyödyntämään tekoälyä, kysyvät siis enemmän kuin mitä teknologia voi automatisoida. Ne määrittelevät, mitä sen tulisi tehdä, mitä sen ei tulisi tehdä, ja miten ihmiset ja tekoäly toimivat yhdessä.