Mitä Human-in-the-loop oikeasti tarkoittaa?

1900-luvun alussa brittiläinen filosofi Gilbert Ryle keksi termin “haamu koneessa”. Kirjoittaessaan teoksessa The Concept of Mind Ryle käytti metaforaa vastustaakseen mieli-ruumis-kaksinaisuutta, joka pitää mieltä ja ruumista erillään olevina aineina. Rylan mukaan tämä jakautuminen oli virhe, koska kognitio ja fyysinen toiminta olivat erottamattomia, osa yhtä järjestelmää eikä kahta vuorovaikuttavaa osaa.

Tekoälyyn liittyvän “human-in-the-loop” -metodia käytetään usein puhuttaessa tekoälytyökalujen käytöstä tuottavuuden lisäämiseksi. Vaikka se lupailee sekä innovaatiota että turvallisuutta, todellisuus on usein monimutkaisempi. Vastuu voi helposti hävitä ja tilinpäätös on vaikeampi jäljittää.

Start-up-yritykset nojaavat voimakkaasti tähän käsitteeseen puhuttaessa työkaluistaan. Vaikka se lupailee sekä innovaatiota että turvallisuutta, todellisuus on usein monimutkaisempi. Vastuu voi helposti hävitä ja tilinpäätös on vaikeampi jäljittää.

Tekoälyjärjestelmien siirtyessä syvemmälle herkkämielisiin aloihin – koulutuksesta sotaan – panokset eivät ole enää abstrakteja. Mitä human-in-the-loop oikeasti tarkoittaa, ja onko tämä vain eufemismi siitä, kun ne katoavat kokonaan?

1. Human-in-the-loop vastuun suojana

Hölmösti käytettynä human-in-the-loop -termi voi olla helppo tapa siirtää vastuu ilman todellista sitoutumista siihen. Monet ovat huomanneet, että ihmisen allekirjoitus prosessin lopussa ei takaa eettistä integriteettiä, erityisesti jos perustava järjestelmä on huonosti suunniteltu tai riittämättömästi ymmärretty.

Maysa Hawwash, Scale X:n perustaja ja toimitusjohtaja, on kirjoittanut vastuun siirtymisestä ja on suora siinä, miten käsitettä usein käytetään. “Se on oikeasti ei kovin erilainen kuin muut tapa siirtää taakkaa”, Hawwash sanoi Startup Beatille ja käytti esimerkkinä sitä, miten HR-johtajat usein käyttävät allekirjoituspolitiikkaa siirtääkseen yrityksen vastuun. “Jos sinulla on tämä politiikka ja ihmiset lukevat sen ja allekirjoittavat sen, niin yrityksenä olet teknisesti vastuuvapaa, oikein?” hän sanoi.

Mitä ilmenee, on tuttu malli yhtiöiden järjestelmissä, joissa vastuu siirretään sen sijaan, että se poistettaisiin. Hawwash pitää tätä laiskana tienä, joka välttää kriittistä ajattelua tai ymmärtämistä alueista, joilla se voi vaikuttaa ihmisiin tai yhteisöihin. “Niin olet siirtämässä taakkaa, ja sitten ei ole väliä, ymmärtävätkö ihmiset politiikkaa, ei ole väliä, onko politiikka järkevää.”

Tässä viitekehyksessä “human-in-the-loop” riski muuttua merkityksellisestä välikädestä enemmän prosessuaaliseksi suojaksi. Vaara ei ole ainoastaan semanttinen. Kun valvonta supistuu allekirjoitukseksi, ihmisen rooli muuttuu symboliseksi eikä olennaiseksi.

Hawwash viittasi äskettäiseen sotilaalliseen julmuuteen – kouluihin Minabissa, Iranissa – jossa ihmiset hyväksyivät iskun, mutta ihmisen päätöksentekijän läsnäolo ei välttämättä vastannut eettistä selkeyttä tai riittävää harkintaa. “Kun olet sodassa tai suoritat monimutkaisen leikkauksen, sinulla ei ole aikaa käyttää human-in-the-loopia suojana.”

2. Suunnittelua vastuun vuoksi, ei ainoastaan valvontaa

Vaihtoehto ei ole hylätä human-in-the-loop -järjestelmiä, vaan ottaa ne tosissaan suunnittelukohteina. Tämä tarkoittaa siirtymistä symbolisesta valvonnasta tarkoituksellisiin vastuurakenteisiin.

“On tämä suuri kilpailu saada enemmän tekoälyä markkinoille. Ei ole paljon ajattelua suunnittelun kannalta, kuten mitä on alijohdannainen vaikutus yhteisöihin, ihmisiin tai loppukäyttäjiin”, Hawwash sanoi.

Nopeus on muuttunut hallitsevaksi kilpailumuuttujaksi. Tuossa kilpailussa vastuu usein siirretään sen sijaan, että se upotetaan. Tuloksena on reaktiivinen eettinen malli, jossa ongelmien korjaaminen tapahtuu käyttöönoton jälkeen sen sijaan, että ne olisivat osa kehitystä.

Saavutettavuus voi nopeuttaa käyttöönottoa, mutta se myös johtaa voimakkaampiin seuraamuksiin. Järjestelmät eivät ole enää rajoitettu vain teknisiin käyttäjiin, koska ne voivat muokata päätöksiä ihmisille, joilla on erilaiset taidot ja kontekstit. Tällaisessa ympäristössä vastuu ei voi ulkoistaa loppukäyttäjälle.

3. Human-in-the-loop tarkkuuden ja tilinpäätöksenä

Abhay Gupta, Frizzlen perustaja, tarjoaa enemmän operatiivista näkökulmaa – yhtä, joka perustuu rakentamaan järjestelmän, jossa ihmisen valvonta on sekä käytännöllistä että välttämätöntä.

Yrityksensä syntyi tietystä ongelmasta: ylityöllistetyistä opettajista. “Kaupungissa kuulee pankkiireista ja konsulteista, jotka työskentelevät 70 tuntia viikossa, mutta et kuule opettajista, jotka työskentelevät niin paljon. Niin uteliaisuudesta haastattelimme satoja opettajia, ja kaikkien suurin aikaa vievä asia oli arvostelu.”

Arvostelun automatisointi voi näyttää suoraviivaiselta, mutta käsin kirjoitetun matematiikan monimutkaisuus tuo todellisia rajoituksia tekoälylle. “On tarkkuuden ongelma. Tekoäly ei ole täydellinen, joten rakensimme human-in-the-loop -järjestelmän. Jos tekoäly ei ole varma – kuten epäselvän käsin kirjoitetun – se merkitsee sen opettajalle tarkastettavaksi ja hyväksyttäväksi tai hylättäväksi.”

Tässä ihmisen rooli ei ole pelkästään koristeellinen. Järjestelmä tunnistaa nimenomaisesti oman epävarmuutensa ja ohjaa nämä tapaukset ihmiselle. “Meille se on tarkkuuden asia. Aina on reunojen tapauksia – ehkä 1-3% – joissa tekoäly kamppailee, joten ihminen on astuttava sisään.”

Tämä lähestymistapa muotoilee human-in-the-loop -mekanismiksi laadunvalvontaa varten. Mutta Gupta menee pidemmälle: “Tekoälyssä ei ole 100%:n tarkkuutta – se voi harhailla tai tuottaa väärän tuloksen. Human-in-the-loop toimii lopullisena laadunvalvontana ennen tuloksien saapumista loppukäyttäjälle. Se on myös vastuun asia. Joku on oltava vastuussa tuloksesta, ja tällä hetkellä se on edelleen ihminen.”

Tärkeää on myös, että ihmisen rooli säilyttää jotain vähemmän määrättyä: opettamisen suhteellisen puolen. “Se on myös opettamisen inhimillisen puolen säilyttämistä. Opettajat ovat erilaisia tyyliltn, joten annamme heidän mukauttaa palautetta toimittamistavaltaan”

Human-in-the-loop uudelleenmäärittely

“Human-in-the-loop” -lause sisältää lohduttavan yksinkertaisuuden. Se viittaa siihen, että riippumatta siitä, kuinka kehittyneitä järjestelmiämme tulee, ihminen on aina vallassa eikä me ole pelkästään “haamuja koneessa”. Mutta kun start-up-yritykset käyttävät tekoälyä yhä enemmän korkean panoksen ympäristöissä, se lohdutus vaatii tarkastelua.

Syvemmän ongelman on suunnittelu. Jos järjestelmän riskit ovat huonosti ymmärretty tai tietoisesti vähennetty, ihmisen lisääminen loppuun ei tee paljon perussvirheiden korjaamiseksi. Olennaisesti se tarkoittaa myös määrittämistä ihmisen roolia ei pelkästään korjausvälineenä, vaan olennaisena osana järjestelmän toimintaa. Ihminen silmukassa ei vain hyväksy tulosta. Start-up-yritykset tulisi pyrkiä valtuuttamaan henkilöstöään muokkaamaan niitä, haastamaan ne ja tarvittaessa ohittamaan ne valtuutetusti.