Eettiset huomioonotot emotion tunnistamisen kehittämisessä

Tunteiden säätelyyn tarkoitettu tekoäly on yksi viimeisimmistä teknologisista edistysaskelista koneoppimisen alalla. Vaikka siinä on suuri potentiaali, eettiset ongelmat voivat vaikuttaa sen omaksumisnopeuteen ja kestoon. Voivatko tekoälykehittäjät voittaa nämä haasteet?

Mikä on tunteiden tunnistamiseen tarkoitettu tekoäly?

Tunteiden tunnistamiseen tarkoitettu tekoäly on tietyn tyyppinen koneoppimismalli. Se usein perustuu tietokoneen näkötekniikkaan, joka havaitsee ja analysoi kasvojen ilmeitä tunteiden selvittämiseksi kuvissa ja videoissa. Se voi kuitenkin toimia myös ääninäytteiden kanssa äänensävyn määrittämiseksi tai kirjoitetun tekstin kanssa kielen mielipiteen arvioimiseksi.

Tällainen algoritmi edustaa mielenkiintoista edistystä tekoälyalalla, koska mallit eivät ole pystyneet ymmärtämään tunteita tähän asti. Vaikka suuret kielimallit kuten ChatGPT voivat simuloida mielialoja ja persoonallisuutta vakuuttavasti, ne voivat vain yhdistää sanoja loogisesti — ne eivät voi tuntea mitään eivätkä näytä tunteiden älykkyyttä. Vaikka tunteiden tunnistamismalli ei kykene tunteisiin, se voi silti havaita ja luokitella niitä. Tämä kehitys on merkittävä, koska se merkitsee, että tekoäly saattaa pian pystyä todella ymmärtämään ja osoittamaan iloa, surua tai vihaa. Tällaiset teknologiset harppaukset osoittavat nopeaa edistystä.

Tunteiden tunnistamiseen tarkoitetun tekoälyn soveltamisalueet

Liiketoimintayksiköt, koulutusalan ammattilaiset, konsultit ja mielenterveydenhuollon ammattilaiset ovat joitakin ryhmiä, jotka voivat käyttää tekoälyä tunteiden tunnistamiseen.

Riskien arviointi toimistossa

Ihmisten resurssitiimit voivat käyttää algoritmeja mielipiteen analyysin suorittamiseen sähköpostiviestinnässä tai sovelluksissa joukkueen jäsenten välillä. Vaihtoehtoisesti he voivat integroida algoritmin valvontajärjestelmään tai tietokoneen näköjärjestelmään. Käyttäjät voivat seurata mielialaa laskemalla mittareita kuten työntekijöiden vaihtuvuuden riski, polttoutumisen riski ja työntekijöiden tyytyväisyyden.

Asiakaspalvelun edistäminen

Jälleenmyyjät voivat käyttää sisäisiä tekoälypohjaisia asiakaspalveluagenteja loppukäyttäjille tai virtuaalisia apulaisia korkean stressin tilanteiden ratkaisemiseen. Koska malli voi tunnistaa mielialan, se voi ehdottaa de-eskalointitekniikoita tai muuttaa sävyään, kun se toteaa, että kuluttaja suuttuu. Tällaiset vastatoimet voivat parantaa asiakastyytyväisyyttä ja -pidätyskykyä.

Oppilaiden auttaminen luokassa

Kouluttajat voivat käyttää tätä tekoälyä etäopiskelijoiden seurannassa. Yksi startup on jo käyttänyt työkaluaan oppilaiden kasvojen lihasten mittaamiseen ja heidän nopeutensa ja arvosanojensa luokittelussa. Tällä menetelmällä määritetään heidän mielialansa, motivaationsa, vahvuutensa ja heikkoutensa. Startupin perustaja väittää, että he saavuttavat 10% korkeamman arvosanan kokeissa, kun he käyttävät ohjelmistoa.

Sisäisen markkinatutkimuksen suorittaminen

Liiketoimintayksiköt voivat suorittaa sisäistä markkinatutkimusta tunteiden tunnistamismallin avulla. Se voi auttaa heitä ymmärtämään, miten heidän kohderyhmänsä reagoi heidän tuotteisiinsa, palveluihinsa tai markkinointimateriaaleihinsa, antaen heille arvokkaita tietopohjaisia oivalluksia. Tämän seurauksena he voivat nopeuttaa markkinoille menoa ja lisätä tulostaan.

Ongelma tekoälyn käytössä tunteiden havaitsemiseen

Tutkimus osoittaa, että tarkkuus riippuu voimakkaasti koulutusaineistosta. Yksi tutkimusryhmä — yrittäessään selvittää tunteita kuvista — osoitti tämän käsitteen anekdoottisesti, kun heidän mallinsa saavutti 92,05%:n tarkkuuden japanilaisten naisten kasvojen ilmeiden aineistossa ja 98,13%:n tarkkuuden laajennetussa Cohn-Kanade-aineistossa.

Vaikka ero 92%:n ja 98%:n välillä saattaa näyttää vähäiseltä, se on merkittävä. Viiteksi, aineiston myrkyttämisnopeus niin alhainen kuin 0,001% on osoittautunut tehokkaaksi mallin takaporttien luomisessa tai tahallisen väärän luokittelun aiheuttamisessa. Jopa prosenttiyksikön murto-osa on merkittävä.

Lisäksi, vaikka tutkimukset näyttävät lupaavilta — tarkkuusluvut yli 90% osoittavat potentiaalia — tutkijat suorittavat ne kontrolloiduissa olosuhteissa. Todellisessa maailmassa epäselvät kuvat, tekaistut kasvojen ilmeet, huonot kulmat ja hienot tunteet ovat paljon yleisempiä. Toisin sanoen, tekoäly saattaa ei pysty suoriutumaan johdonmukaisesti.

Tunteiden tunnistamiseen tarkoitetun tekoälyn nykytila

Algoritmisen mielipideanalyysin prosessi on algoritmin käyttäminen tekstin sävyn määrittämiseen positiiviseksi, neutraaliksi tai negatiiviseksi. Tämä teknologia on väittäen modernien tunteiden havaitsemismallien perusta, koska se avasi tien algoritmisten mielialojen arviointiin. Samankaltaiset teknologiat kuten kasvojen tunnistusohjelmistot ovat myös vaikuttaneet edistykseen.

Nykyisten algoritmien pääasiallinen tehtävä on havaita yksinkertaisia mielialoja kuten iloa, surua, vihaa, pelkoa ja yllätystä vaihtelevalla tarkkuudella. Nämä kasvojen ilmeet ovat luonnollisia ja yleismaailmallisia — tarkoittaen, että ne ovat luonnollisia ja maailmanlaajuisesti ymmärrettäviä — joten tekoälyn kouluttaminen niiden tunnistamiseen on suhteellisen helppoa.

Lisäksi perusmielialat ovat usein liioiteltuja. Ihmiset rypistävät otsaansa vihaisina, surkastavat surullisina, hymyilevät iloisina ja laajentavat silmiään šokissa. Nämä yksinkertaiset, dramaattiset ilmeet ovat helppoja erottaa. Monimutkaisemmat tunteet ovat haasteellisempia määrittää, koska ne ovat joko hienovaraisia tai yhdistävät perusmielialoja.

Koska tämä tekoälyn alaluokka on pääasiassa tutkimuksessa ja kehityksessä, se ei ole edennyt kompleksisten tunteiden kuten kaipauksen, syyllisyyden, surun, mustasukkaisuuden, helpotuksen tai hämmennyksen kattamiseen. Vaikka se todennäköisesti kattaa enemmän myöhemmin, ei ole takeita, että se pystyy tulkitsemaan ne kaikki.

Todellisuudessa algoritmit eivät välttämättä pysty kilpailemaan ihmisten kanssa. Viiteksi, OpenAI:n GPT-4-aineisto on noin yksi petatavu, ja yksi kuutiomillimetri aivojen massa sisältää noin 1,4 petatavua dataa. Aivotutkijat eivät voi täysin ymmärtää, miten aivot havaitsevat tunteita, vaikka he ovat tutkineet asiaa vuosikymmeniä, joten erittäin tarkan tekoälyn rakentaminen saattaa olla mahdotonta.

Vaikka tämän teknologian käyttäminen tunteiden tunnistamiseen on edeltävä, tämä ala on edelleen teknisesti vasta alkuvaiheessa. On runsaasti tutkimusta tästä käsitteestä, mutta vain vähän todellisia esimerkkejä laajamittaisesta käytöstä. Jotkut merkit osoittavat, että hidastunut omaksuminen saattaa johtua epätasaisen tarkkuuden ja eettisten ongelmien huoleista.

Tekoälykehittäjien eettiset huomioonotot

Yhden tutkimuksen mukaan 67%:a vastaajista on samaa mieltä, että tekoälyä tulisi säännellä enemmän. Jotta ihmisten mieli voitaisiin helpottaa, kehittäjien tulisi minimoida harhaa, varmistaa, että mallit toimivat odotetusti, ja parantaa tuloksia. Nämä ratkaisut ovat mahdollisia, jos he priorisoivat eettisiä huomioonotoja kehityksen aikana.

1. Suostumusperustaisten tietojen kerääminen ja käyttäminen

Suostumus on kaikki kaikessa aikakaudella, jossa tekoälyn sääntely kasvaa. Mitä tapahtuu, jos työntekijät huomaavat, että heidän kasvojen ilmeensä kerätään heidän tietämättään? Tarvitseeko vanhemmat allekirjoittaa koulutukseen perustuvan mielipideanalyysin tai voivatko opiskelijat itse päättää?

Kehittäjien tulisi ilmoittaa selvästi, mitä tietoja malli kerää, milloin se on toiminnassa, mihin analyysiä käytetään ja keillä on pääsy näihin yksityiskohtiin. Lisäksi heidän tulisi sisällyttää uloskirjautumisominaisuudet, jotta yksilöt voivat mukauttaa lupaa.

2. Anonyymien mielipideanalyysien tulokset

Tietojen anonyymitys on yhtä paljon tietoturvaongelma kuin tietosuojan ongelma. Kehittäjien tulisi anonyymityä kerättyjä tunteiden tietoja suojelemalla yksilöitä, jotka ovat mukana. Ainakin heidän tulisi vahvasti harkita levossa olevan salauksen käyttämistä.

3. Ihmisten osallistuminen päätöksentekoon

Ainoa syy tekoälyn käyttämiseen jonkun tunteiden tilan määrittämiseen on päätöksentekoa. Riippumatta siitä, käytetäänkö sitä mielenterveydenhuollon vai myyntitilanteessa, se vaikuttaa ihmisiin. Kehittäjien tulisi käyttää ihmisten osallistumista turvallisuuden varmistamiseksi odottamattoman käyttäytymisen minimointiin.

4. Ihmiskeskeinen palaute tekoälyn tuloksille

Vaikka algoritmi saavuttaa lähes 100%:n tarkkuuden, se tuottaa silti väärän positiivisia tuloksia. Ottaen huomioon, että mallit saattavat saavuttaa 50% tai 70%:n tarkkuuden — ja se ei vielä koske harhaa tai hallusinaatio-ongelmia — kehittäjien tulisi harkita palauttejärjestelmän käyttöönottoa.

Ihmiset tulisi pystyä tarkastelemaan, mitä tekoäly sanoo heidän tunteistaan, ja valittaa, jos he uskovat sen olevan väärä. Vaikka tällainen järjestelmä vaatisi varotoimia ja vastuuta, se minimoi epäedulliset vaikutukset, jotka johtuvat epätarkoista tuloksista.

Eettisyyden laiminlyönnin seuraukset

Eettiset huomioonotot tulisi olla tekoälyinsinöörien, koneoppimisen kehittäjien ja liiketoimintayksiköiden omistajien prioriteetti, koska se vaikuttaa heihin. Ottaen huomioon, että yhä epävarmempi julkisen mielipiteen ja kiristyneiden sääntelyjen vaikutus on meneillään, eettisyyden laiminlyönnin seuraukset voivat olla merkittäviä.