Mitä ihminen silmukassa todella tarkoittaa?

1900-luvun alussa brittiläinen filosofi Gilbert Ryle keksi termin “aave koneessa”. Kirjoittaessaan The Concept of Mind -teoksessa, Ryle käytti metaforaa vastustaakseen mieli-ruumis-kaksinaisuutta, joka pitää mieltä ja ruumista erillisinä aineina. Rylelle tämä jakautuminen oli virhe, koska kognitio ja fyysinen toiminta olivat erottamattomia, osa yhtä järjestelmää, ei kahta vuorovaikuvaa osaa.

Tekoälyjen myötä vastaava metafora nousee esiin, kun puhutaan tekoälytyökalujen käyttäjistä tuottavuuden lisäämiseksi: usein käytetty “ihminen silmukassa”. Jos ihmiset ja älykkäät järjestelmät ovat nyt kiinteämmin yhdistyneitä kuin koskaan aiemmin, rakennammeko vaivattoman yhdistymisen vai luomme kätevän illuusion hallinnasta?

Start-up-yritykset nojaavat voimakkaasti tähän käsitteeseen puhuessaan työkaluistaan. Vaikka se lupailee sekä innovaatiota että turvallisuutta, todellisuus on usein monimutkaisempi. Vastuu voidaan helposti tehdä epämääräiseksi ja tilastojen jäljittäminen on vaikeampaa.

Kun tekoälyjärjestelmät siirtyvät herkillä alueilla – koulutuksesta sotaan – panokset eivät ole enää abstrakteja. Mitä ihminen silmukassa todella tarkoittaa, ja onko tämä vain eufemismi siitä, kun he katoavat kokonaan?

1. Ihminen silmukassa vastuun kilpenä

Huolettomasti käytettynä “ihminen silmukassa” -termi voidaan helposti käyttää vastuun siirtämiseen ilman varsinaista sitoutumista. Monet ovat huomanneet, ettei ihmisen allekirjoitus prosessin lopussa takaa eettistä eheyttyneisyyttä, erityisesti jos perustava järjestelmä on huonosti suunniteltu tai riittämättömän tunnettu.

Maysa Hawwash, Scale X:n perustaja ja toimitusjohtaja, on kirjoittanut vastuun siirtymisestä ja on suorasanainen siinä, miten käsite usein käytetään. “Se ei ole tosiasiassa erilainen kuin muut tavat vastuun siirtämiseen.” Hawwash kertoi Startup Beatille esimerkkinä, miten HR-johtajat usein käyttävät allekirjoituspolitiikkaa siirtääkseen yrityksen vastuun. “Jos sinulla on tämä politiikka ja ihmiset lukevat sen ja allekirjoittavat sen, yrityksenä et ole teknisesti vastuussa, oletko?” hän sanoi.

Mitä nousee esiin, on tunnistettava malli yhtiöiden järjestelmissä, joissa vastuu siirretään sen sijaan, että se poistettaisiin. Hawwash näkee tämän laiskan uloskäynnin, joka välttää kriittistä ajattelua tai ymmärrystä alueista, joilla se voi vaikuttaa ihmisiin tai yhteisöihin. “Siirrät vastuun, ja sitten ei ole väliä, ymmärtävätkö ihmiset politiikkaa, ei ole väliä, onko politiikka järkevää.”

Tässä kehyksessä “ihminen silmukassa” riski muuttua tarkoituksellisesta välikädestä enemmän prosessuaaliseksi suojaksi. Vaara ei ole ainoastaan semanttinen. Kun valvonta on supistettu allekirjoitukseksi, ihmisen rooli muuttuu symboliseksi eikä olennaiseksi.

Hawwash viittasi äskettäiseen sotilaalliseen julmuuteen – koulussa Minabissa, Iranissa – jossa ihmiset hyväksyivät iskun, mutta ihmisen päätöksentekijän läsnäolo ei välttämättä vastannut eettistä selkeyttä tai riittävää harkintaa. “Kun olet sodassa tai suoritat monimutkaisen leikkauksen, sinulla ei ole aikaa käyttää ihmistä silmukassa suojana.”

2. Suunnittelua vastuusta, ei vain valvontaa varten

Vaihtoehto ei ole hylätä ihmistä silmukassa -järjestelmiä, vaan ottaa ne tosissaan suunnittelumalleina. Tämä tarkoittaa siirtymistä symbolisesta valvonnasta tarkoituksellisiin vastuurakenteisiin.

“On tämä suuri kilpailu saada enemmän tekoälyä markkinoille. Ei ole paljon ajateltu suunnittelun kannalta, kuten mitä on alijoki vaikutus yhteisöihin, ihmisiin tai loppukäyttäjiin”, Hawwash sanoi.

Nopeus on muuttunut hallitsevaksi kilpailumuuttujaksi. Tässä kilpailussa vastuu usein siirretään sen sijaan, että se upotetaan. Tuloksena on reaktiivinen eettinen malli, jossa ongelmien korjaaminen tapahtuu käyttöönoton jälkeen sen sijaan, että ne ennustettaisiin kehityksen aikana.

Saavutettavuus voi nopeuttaa omaksumista, mutta se johtaa myös suurempiin seurauksiin. Järjestelmät eivät ole enää rajoitettu teknisiin käyttäjiin, koska ne voivat muokata päätöksiä ihmisille, joilla on erilaiset taidot ja kontekstit. Tällaisessa ympäristössä vastuu ei voida ulkoistaa loppukäyttäjälle.

3. Ihminen silmukassa tarkkuutena ja tilastollisuutena

Abhay Gupta, Frizzlen perustaja, tarjoaa enemmän toiminnallisen näkökulman – yhden, joka perustuu järjestelmän rakentamiseen, jossa ihmisen valvonta on sekä käytännöllistä että välttämätöntä.

Hänen yrityksensä syntyi tietystä ongelmasta: ylityöntekijöistä. “Kaupungissa kuulee pankkiireista ja konsulteista, jotka työskentelevät 70 tuntia viikossa, mutta et kuule opettajista, jotka työskentelevät niin paljon. Niinpä uteliaisuudesta haastattelimme satoja opettajia, ja kaikkien suurin aikaa vievä asia oli arvostelu.”

Arvostelun automatisointi voi tuntua suoraviivaiselta, mutta käsin kirjoitetun matematiikan monimutkaisuus tuo todellisia rajoituksia tekoälylle. “On tarkkuuden ongelma. Tekoäly ei ole täydellinen, joten rakensimme ihmistä silmukassa -järjestelmän. Jos tekoäly ei ole varma – kuten epäselvän käsin kirjoitetun – se merkitsee sen opettajalle tarkastettavaksi ja hyväksyttäväksi tai hylättäväksi.”

Tässä ihmisen rooli ei ole ainoastaan koristeellinen. Järjestelmä tunnistaa nimenomaisesti oman epävarmuutensa ja ohjaa nämä tapaukset ihmiselle. “Meille se on tarkkuuden kysymys. Aina on reuna-alueita – ehkä 1-3% – joissa tekoäly kamppailee, joten ihminen on astuttava sisään.”

Tämä lähestymistapa uudelleenmäärittää ihmistä silmukassa mekanismina laadunvalvontaan. Mutta Gupta menee pidemmälle: “Tekoälyssä ei ole 100%:n tarkkuutta – se voi harhailla tai tuottaa väärän tuloksen. Ihminen silmukassa toimii lopullisena laadunvalvontana ennen kuin tulokset saavuttavat loppukäyttäjän. Se on myös vastuun kysymys. Joku on oltava vastuussa tuloksesta, ja tällä hetkellä se on edelleen ihminen.”

Olivatko tärkeät, ihmisen rooli säilyttää myös jotain vähemmän määrättyä: opettamisen suhteellisen puolen. “Se on myös opettamisen inhimillisen puolen säilyttämistä. Opettajat ovat erilaisia tyylissään, joten annamme heidän mukauttaa, miten palautetta toimitetaan”

Ihmisen silmukassa uudelleenmäärittely

“Ihminen silmukassa” -lause sisältää lohduttavan yksinkertaisuuden. Se viittaa siihen, että riippumatta siitä, kuinka kehittyneitä järjestelmiämme tulee, ihminen pysyy hallinnassa eikä meillä ole yksinkertaisesti “aaveita koneessa”. Mutta kun start-up-yritykset ottavat tekoälyä korkean panoksen ympäristöihin, se lohdutus vaatii tarkastelua.

Syvemmänlainen ongelma on suunnittelu. Jos järjestelmän riskit ovat huonosti ymmärrettyjä tai tietoisesti vähennettyjä, ihmisen sisääntulo loppupäässä ei tee paljonkaan perussuunnitteluvirheiden korjaamiseksi. Olennaisesti se tarkoittaa myös määrittelyä ihmisen roolia ei ainoastaan takaisinkutsuna, vaan järjestelmän toiminnan olennaisena osana. Ihminen silmukassa ei ainoastaan hyväksy tulosta. Start-up-yritysten tulisi pyrkiä valtuuttamaan henkilöstöään muokkaamaan niitä, haastamaan ne ja tarvittaessa ohittamaan ne valtuutetusti.