Ajatusjohtajat
Mitä human-in-the-loop oikeastaan tarkoittaa?

Keskeiset kohdatIhminen silmukkana -malli siirtää vastuun usein käyttäjille varmistamatta eettistä…
Näytä lisää
- Ihminen silmukkana -malli siirtää vastuun usein käyttäjille varmistamatta eettistä järjestelmäsuunnittelua.
- Frizzle käyttää ihmisen suorittamaa valvontaa arvioinnin tarkkuuden varmistamiseksi, kun tekoäly ei kykene käsittelemään epäselvää käsialaa.
- Mielekkäät ihmisen roolit edellyttävät henkilöstön valtuuttamista haastamaan ja ohittamaan tekoäly, ei pelkästään hyväksymään sitä.
1900-luvun alkupuolella brittiläinen filosofi Gilbert Ryle loi ilmauksen «haamu koneessa». Teoksessaan The Concept of Mind Ryle käytti kielikuvaa vastustaakseen mielen ja ruumiin dualismia, jonka mukaan mieli ja ruumis ovat erillisiä substansseja. Rylen mielestä jako oli virheellinen, sillä ajattelu ja fyysinen toiminta olivat erottamattomia: saman järjestelmän osia, eivät kaksi toistensa kanssa vuorovaikutuksessa olevaa osaa.
Tekoälyn myötä samankaltainen kielikuva on noussut esiin puhuttaessa ihmisistä, jotka käyttävät tekoälytyökaluja tuottavuutensa lisäämiseen: usein toistettu «human-in-the-loop», eli ihmisen pitäminen mukana prosessissa. Jos ihmiset ja älykkäät järjestelmät sulautuvat nyt yhteen tiiviimmin kuin koskaan, rakennammeko saumatonta kokonaisuutta vai luommeko kätevän hallinnan illuusion?
Startup-yritykset tukeutuvat tähän käsitteeseen vahvasti kertoessaan työkaluistaan. Se lupaa sekä innovaatioita että mielenrauhaa, mutta todellisuus on usein sotkuisempi. Vastuu voi helposti hajautua ja vastuutahon jäljittäminen vaikeutua.
Kun tekoälyjärjestelmät ulottuvat yhä syvemmälle herkille aloille koulutuksesta sodankäyntiin, panokset eivät enää ole abstrakteja. Mitä human-in-the-loop oikeastaan tarkoittaa, ja onko se vain kiertoilmaus sille, että ihmiset katoavat lopulta kokonaan?
1. Human-in-the-loop keinona suojautua vastuulta
Huolimattomasti käytettynä human-in-the-loop voi olla helppo tapa siirtää vastuuta paneutumatta siihen aidosti. Kuten monet ovat huomanneet, ihmisen allekirjoitus prosessin lopussa ei takaa eettistä toimintaa, varsinkaan jos taustalla oleva järjestelmä on huonosti suunniteltu tai puutteellisesti ymmärretty.
Scale X:n perustaja ja toimitusjohtaja Maysa Hawwash on kirjoittanut vastuun välttelyyn luisumisesta ja puhuu suoraan siitä, miten käsitettä usein käytetään. «Se ei itse asiassa juuri eroa muista tavoista siirtää taakkaa», Hawwash sanoi Startup Beatille. Hän käytti esimerkkinä sitä, miten henkilöstöjohtajat pyrkivät usein siirtämään vastuun pois yritykseltä vaatimalla toimintaohjeiden hyväksymistä allekirjoituksella. «Jos teillä on tällainen ohje ja ihmiset lukevat sen ja hyväksyvät sen allekirjoituksellaan, yrityksenä ette teknisesti ole vastuussa, eikö niin?» hän sanoi.
Esille nousee yritysjärjestelmistä tuttu kaava: vastuu siirtyy, mutta ei poistu. Hawwash näkee tämän laiskana ratkaisuna, jolla vältetään kriittinen ajattelu ja sen ymmärtäminen, missä vaikutukset voivat kohdistua ihmisiin tai yhteisöihin. «Siirrätte siis taakan, eikä sen jälkeen ole väliä, ymmärtävätkö ihmiset ohjeen tai onko siinä järkeä.»
Tässä ajattelutavassa human-in-the-loop uhkaa muuttua merkityksellisestä puuttumisesta lähinnä menettelylliseksi suojaksi. Vaara ei ole vain kielellinen. Jos valvonta typistyy allekirjoitukseen, ihmisen rooli muuttuu sisällöllisestä symboliseksi.
Hawwash viittasi äskettäiseen sodan julmuuteen, Iranin Minabissa sijaitsevaan kouluun kohdistuneeseen iskuun. Ihmiset hyväksyivät iskun, mutta ihmisen mukanaolo päätöksenteossa ei välttämättä merkinnyt eettistä selkeyttä tai riittävää harkintaa. «Kun olette sodassa tai teette monimutkaista leikkausta, teillä ei ole aikaa käyttää human-in-the-loopia suojakilpenä.»
2. Vastuun, ei pelkän valvonnan, suunnittelu
Vaihtoehtona ei ole hylätä järjestelmiä, joissa ihminen on mukana prosessissa, vaan ottaa ne vakavasti suunnittelua ohjaavina sitoumuksina. Tämä tarkoittaa siirtymistä symbolisesta valvonnasta tietoisesti rakennettuihin vastuurakenteisiin.
«Käynnissä on valtava kilpailu siitä, kuka saa enemmän tekoälyä suoraan markkinoille. Suunnittelun näkökulmasta ei juuri pohdita esimerkiksi sitä, millaisia myöhempiä vaikutuksia syntyy yhteisöille, ihmisille tai loppukäyttäjille», Hawwash sanoi.
Nopeudesta on tullut hallitseva kilpailutekijä. Tässä kilpailussa vastuullisuutta lykätään usein myöhemmäksi sen sijaan, että se rakennettaisiin sisään järjestelmään. Tuloksena on reaktiivinen etiikan malli: ongelmia korjataan käyttöönoton jälkeen sen sijaan, että niitä ennakoitaisiin kehitysvaiheessa.
Helppo saatavuus voi nopeuttaa käyttöönottoa, mutta se myös voimistaa seurauksia. Järjestelmät eivät enää rajoitu teknisiin käyttäjiin, vaan voivat muovata päätöksiä ihmisille, joiden ymmärrys ja taustatilanne vaihtelevat. Tällaisessa ympäristössä vastuuta ei voi ulkoistaa loppukäyttäjälle.
3. Human-in-the-loop tarkkuuden ja vastuuvelvollisuuden varmistajana
Frizzlen yksi perustajista Abhay Gupta tarjoaa käytännönläheisemmän näkökulman: on rakennettava järjestelmä, jossa ihmisen valvonta on sekä toteuttamiskelpoista että välttämätöntä.
Hänen yrityksensä syntyi yhdestä nimenomaisesta ongelmasta: ylityöllistetyistä opettajista. «Kaupungissa kuulee pankkiireista ja konsulteista, jotka tekevät 70-tuntisia työviikkoja, mutta opettajien yhtä pitkistä työviikoista ei kuule. Uteliaisuuttamme haastattelimme satoja opettajia, ja kautta linjan arviointi vei heiltä eniten aikaa.»
Arvioinnin automatisointi voi vaikuttaa suoraviivaiselta, mutta käsin kirjoitetun matematiikan monimutkaisuus asettaa tekoälylle todellisia rajoituksia. «Tarkkuus on ongelma. Tekoäly ei ole täydellinen, joten rakensimme human-in-the-loop-järjestelmän. Jos tekoäly ei ole varma esimerkiksi epäselvän käsialan vuoksi, se merkitsee tapauksen opettajan tarkastettavaksi ja hyväksyttäväksi tai hylättäväksi.»
Tässä ihmisen rooli ei ole pelkkä koriste. Järjestelmä tunnistaa nimenomaisesti oman epävarmuutensa ja ohjaa tällaiset tapaukset ihmiselle. «Meille kyse on tarkkuudesta. Aina on rajatapauksia, ehkä 1–3 prosenttia, joissa tekoälyllä on vaikeuksia. Silloin ihmisen on puututtava asiaan.»
Tämä lähestymistapa määrittelee human-in-the-loopin laadunvalvonnan mekanismiksi. Gupta menee kuitenkin pidemmälle: «Pohjimmiltaan tekoäly ei ole sataprosenttisen tarkka. Se voi hallusinoida tai tuottaa vääriä tuloksia. Human-in-the-loop toimii viimeisenä laaduntarkastuksena ennen kuin tulokset päätyvät loppukäyttäjälle. Kyse on myös vastuusta. Jonkun on vastattava tuloksesta, ja tällä hetkellä sen on edelleen oltava ihminen.»
Ihmisen mukanaolo säilyttää myös jotakin vaikeammin mitattavaa: opetuksen vuorovaikutuksellisen puolen. «Kyse on myös opetuksen inhimillisen puolen säilyttämisestä. Opettajilla on erilaisia tyylejä, joten annamme heidän mukauttaa tapaa, jolla palaute annetaan.»
Human-in-the-loopin uudelleenmäärittely
Ilmauksessa «ihminen mukana prosessissa» on rauhoittavaa yksinkertaisuutta. Se antaa ymmärtää, että kehittyivätpä järjestelmät kuinka pitkälle tahansa, ihminen pysyy ohjaksissa emmekä ole pelkkiä «haamuja koneessa». Kun startupit kuitenkin ottavat tekoälyä yhä enemmän käyttöön ympäristöissä, joissa seuraukset ovat merkittäviä, tätä vakuuttelua on tarkasteltava kriittisesti.
Syvempi kysymys on suunnittelu. Jos järjestelmän riskit ymmärretään huonosti tai niitä tarkoituksellisesti vähätellään, ihmisen lisääminen prosessin loppuun ei juuri korjaa perustavanlaatuisia puutteita. Olennaista on myös määritellä ihminen kiinteäksi osaksi järjestelmän toimintaa, ei vararatkaisuksi. Prosessissa mukana olevan ihmisen ei pitäisi vain hyväksyä lopputulosta. Startupien tulisi antaa henkilöstölleen valtuudet muovata lopputuloksia, kyseenalaistaa niitä ja tarvittaessa kumota ne todellisella päätösvallalla.












