Vastuullinen suunnittelulla – Miksi tekoälyllä on oltava ihmiskeskeinen lähestymistapa

Teckoäly muuttaa digitaalisia kokemuksia, jotka määrittelevät jokapäiväistä elämäämme. Henkilökohtaisista tuotesuositelluista ja ennustavasta terveydenhuollosta autonomiseen ajoon ja jopa huvipuiston jonojen hallintaan, tekoäly tekee näistä kokemuksista halvemmat, tehokkaammat ja jopa miellyttävämmät. Ainakin, niin on luvattu.

Mutta liian usein kohtaamme otsikoita, jotka kertovat niin sanotuista “tekoälyepäonnistumisista” – hetkistä, jolloin käyttäjät tuntevat itsensä harhaan johdetuiksi, turhautuneiksi tai yksinkertaisesti ymmärretyiksi. Ja kun luottamus murtuu, myös tekoälyn potentiaali olla todella merkityksellinen ja tehokas murtuu.

Julkinen luottamus on katoamassa. Miksi? Koska useimmat järjestelmät eivät ole suunniteltu ihmiskokemuksen kannalta – ne on suunniteltu nopeuden, skaalautuvuuden ja voitollisuuden mukaan. Tämä pitäisi olla suuri syy huoleen kaikille yrityksille, jotka panostavat tekoälyinvestointeihinsa.

Rakentamaan luottamusta yritykset tarvitsevat pysähtyä ja kysyä syvempiä kysymyksiä: Miksi rakennamme tämän järjestelmän? Pitäisikö se rakentaa ensinnäkin? Lyhyesti, suunnittelemmeko tekoälyä palvelemaan ihmisten tarpeita – vai pakotammeko ihmiset sopeutumaan koneen logiikkaan?

Luottamuskriisi tekoälyssä

Liian usein tekoäly kehitetään eristetyissä teknisissä ympäristöissä, joissa menestys mitataan tarkkuuden tai nopeuden mukaan, eikä sosiaalisen vaikutuksen tai käytettävyyden mukaan. Eettinen ajattelu, joka on keskeinen osa luottamusta, ei ole automaattisesti sisäänrakennettu tekoälyn kehitysprosessiin. Tämä yhteys johtaa järjestelmiin, jotka voivat olla teoreettisesti innovatiivisia, mutta käytännössä epäonnistuvia.

Otetaan esimerkiksi Air Canadan chatbotti, joka antoi asiakkaalle virheellisen tiedon surunajan matkalipujen politiikasta, ja yritys väitti, ettei se ollut vastuussa chatbotin sanomisista. Tai Metan tekoälychatbotti, joka tarjosi tosiasiallisesti virheellisiä lausuntoja hakutuloksissa. Nämä esimerkit osoittavat enemmän kuin teknisiä viat; ne paljastavat järjestelmällisen epäonnistumisen suunnitella tekoälysovelluksia, joissa on empatia, turvallisuuden varmistus ja todellisen maailman konteksti.

Julkinen on huomannut tämän. Pew Research Centerin mukaan 59 %:lla amerikkalaisista ja 55 %:lla tekoälyasiantuntijoista on vähän tai ei ollenkaan luottamusta siihen, että yhdysvaltalaiset yritykset kehittävät tekoälyä vastuullisesti. Tämä on luottamuskriisi, jota emme voi jättää huomiotta.

Ihmiskeskeinen suunnittelu ei ole luksus

Suunnittelu ei ole tekoälylle vain ulkonäön viimeistely. Se on perustavanlaatuinen osa siitä, miten se toimii ja miten se havaitaan loppukäyttäjien toimesta. Ihmiskeskeinen suunnittelu alkaa ymmärtämisestä niistä ihmisistä, joita suunnittelemme: heidän tavoitteistaan, turhautumisestaan, arvoistaan ja elämänkokemuksistaan.

On ehdottoman tärkeää kysyä suunnitteluprosessin aikana erittäin tarkkoja kysymyksiä, jotta teknologia palvelee ihmisten tarpeita, eikä toisinpäin, määrittelemällä:

• Kuka on suunnittelun kohde?
• Mitkä ovat heidän tavoitteensa, arvonsa ja haasteensa?
• Miten he vuorovaikuttavat järjestelmien kanssa emotionaalisesti ja toiminnallisesti?
• Onko tuote luotettava ja tekeekö se sen, mitä se sanoo tekevänsä?
• Edistääkö se kaikkien erilaisten ihmisten inklusiivisuutta ja saavutettavuutta?

Nämä eivät ole abstraktit kysymykset. Ne muotoilevat suoraan, miten tekoäly toimii käytännössä. Ja korkean panoksen yhteyksissä, kuten terveydenhuollossa, turvallisuudessa tai koulutuksessa, ne voivat määritellä, onko järjestelmä inklusiivinen ja reilu vai hämmentävä ja haitallinen.

Mikä on parempi suunnittelu

Suunnittelijat yhdistävät ihmisten tarpeet koneen kykyihin prototyyppien, testaamisen ja iteroinnin kautta, joka takaa, että tuotteet ovat järkeviä niille, jotka käyttävät niitä. Se sisältää kyseenalaistamisen, miten tekoäly viestii, mitkä päätökset se automatisoi ja miten paljon valtaa se tarjoaa käyttäjälle.

Otetaan esimerkiksi huvipuistot. Tekoälyä käytetään tänä kesänä jonon lyhentämiseen, kokemusten henkilökohtaisuuteen ja väkijoukon hallintaan. Se on lupaava käyttötapaus. Mutta menestys ei ole vain logistiikan optimoinnista. Hyvin suunniteltu järjestelmä priorisoi ihmiskokemuksen, ei vain tehokkuuden. Se tarkoittaa avoimia viestejä, intuitiivisia käyttöliittymiä, selkeitä valintoja ja vaihtoehtoja käyttäjille, joilla on erityistarpeita (kuten perheillä ilman älypuhelinta tai vierailla, joilla on esteettömyysvaatimukset).

Tässä on mahdollisuus, joka ei ole ainoastaan logistiikan optimointi, vaan myös ihmiskokemuksen korostaminen. Se on mahdollisuus suunnittelulle.

Testaaminen ihmisen näkökulmasta

Ihmiskeskeisessä tekoälysuunnittelussa testaus on kriittinen. On ihanteellista tuoda potentiaaliset loppukäyttäjät prosessiin aikaisin ja usein, tarkoituksena on tunnistaa potentiaaliset sokeat pisteet. Kun käyttäjät eivät voi ymmärtää tai luottaa järjestelmään, järjestelmä on epäonnistunut, riippumatta siitä, miten vaikuttava sen taustajärjestelmä on.

Testaus varmistaa myös esteettömyyden, jota usein jätetään huomiotta tekoälykokemuksissa. Chatbotti voi olla teknisesti toimiva, mutta jos se ei palvele neurodiversejä käyttäjiä tai ei-äidinkielisiä, se ei ole todella toimiva. Inklusiivinen suunnittelu ei ainoastaan hyödytä marginaaleja, vaan vahvistaa tuotteita kaikille.

Vastuu alkaa suunnittelusta

Käytäntöjä voidaan käyttää rajoitusten asettamiseen ja pahimpien seurausten estämiseen. Niinpä kehykset, kuten EU:n tekoälylain ja Tekoälyoikeuksien viitekehys, ovat tärkeitä askelia. Mutta noudattaminen on vain lattia. Suunnittelu on keino, jolla saavutamme katolle.

Yritykset on mentävä checklistien ulkopuolelle rakentamaan tekoälyjärjestelmiä, jotka tukevat arvoa, toimivaltaa ja valvontaa. Se tarkoittaa vastustamista ihmisten arvostelukyvyn täydellistä automatisointia ja sen sijaan suunnittelua työkaluja, jotka lisäävät sitä. Vastuullinen tekoäly ei poista ihmisen valvontaa; se lisää sitä.

Tämä työ ei ole ainoastaan teknistä. Se vaatii monitieteellisiä tiimejä, joissa on suunnittelijoita, insinöörejä, käytäntöasiantuntijoita ja eettisiä asiantuntijoita, jotka työskentelevät yhdessä päivästä yhtenä. Se tarkoittaa suunnittelua ihmisten kanssa, ei ainoastaan heille.

Suunnittelijoiden rooli tekoälyn muotoilussa

Suunnittelijat ovat ainutlaatuinen rooli tekoälyn kehityksessä. He ovat kääntäjiä, jotka ovat sujuvia sekä koneiden järjestelmälogiikassa että ihmisen elämän monimuotoisuudessa. Suunnittelijat on koulutettu tunnistamaan kitkaa, emotionaalisia vihjeitä ja sosiaalisia vaikutuksia, joita data yksin ei voi havaita.

Samoin kuin tarkat kysymykset, jotka varmistavat, että teknologia palvelee ihmisten tarpeita, suunnittelijoiden on puolustettava kysymyksiä, jotka eivät mahdu tiiviisti koulutusdataan, kuten:

• Miten tämä tekee jonkun tunteen?
• Onko käyttäjä vallassa?
• Mitä tapahtuu, kun asiat menevät pieleen?

Liian usein suunnittelu tuodaan lopussa tekoälyputken “tehdäkseen sen näyttävän hyvältä”. Mutta suunnittelun todellinen voima on strateginen. Se pitäisi muotoilla, miten ongelmia määritellään alusta alkaen, ei ainoastaan miten käyttöliittymät näyttävät.

Ihmiskeskeinen, ei konekeskeinen

Tekoäly ei ole ainoastaan tekninen haaste, vaan suunnittelun haaste. Ja sen ratkaisemiseksi meidän on asetettava ihmisen arvot keskuuteen alusta alkaen.

Ihmiskeskeinen tekoäly ei ole luksus – se on välttämätöntä. Se luo järjestelmiä, jotka ovat luotettavia, luotettavia, puolueettomia, tarkasteltavissa olevia ja noudattavat sääntöjä. Mutta enemmän kuin se, se luo tuotteita, jotka hyödyttävät loppukäyttäjää ja korostavat ihmisen tuottavuutta ja potentiaalia.

Meillä on työkalut, ja meillä on vastuu suunnitella tulevaisuus, jossa teknologia palvelee ihmisiä, ei toisinpäin. Tulevaisuus alkaa suunnittelusta.