Estäen AI:n tarinoiden keksimisen: Opas hallucinaatioiden estämiseen

AI vallankumous muuttaa lähes jokaisen alan toimintatapaa. Se tekee meistä tehokkaampia, tuottavampia ja – kun se toteutetaan oikein – parempia työssämme yleensä. Mutta mitä enemmän me luotamme tähän uuteen teknologiaan, sitä enemmän meidän on muistettava yksinkertainen tosiasia: AI ei ole virheetön. Sen tulokset eivät voi ottaa sellaisenaan, koska AI voi tehdä virheitä, niin kuin ihmisetkin.

Nämä virheet kutsutaan “AI-hallusinaatioiksi”. Nämä virheet voivat olla esimerkiksi väärät vastaukset matemaattisiin ongelmiin tai virheellinen tieto hallituksen politiikoista. Säädellyissä aloissa hallusinaatiot voivat johtaa kalliisiin sakoihin ja oikeudellisiin ongelmiin, ei puhumatta asiakkaista, jotka eivät ole tyytyväisiä.

AI-hallusinaatioiden frekvenssi pitäisi olla huolenaihe: arvioidaan, että modernit suuret kielen mallit (LLM) hallusinoivat 1-30% ajasta. Tämä johtaa satoihin vääräksi osoittautuviin vastauksiin päivittäin, mikä tarkoittaa, että yritysten on oltava erittäin valikoivia valitessaan, mitä työkaluja toteuttaa.

Tutkitaan, miksi AI-hallusinaatiot tapahtuvat, mitä on pelissä ja miten voimme tunnistaa ja korjata ne.

Roska sisään, roska ulos

Muistatko, kun pelasit “puhelimen” peliä lapsena? Kuinka alkuperäinen lause muuttui, kun se kiersi pelaajien kesken, ja lopulta se muuttui täysin erilaiseksi lauseeksi, kun se saapui takaisin aloittajaan?

AI:n oppimistapa on samanlainen. LLM:ien generoimat vastaukset ovat yhtä hyviä kuin niiden saama tieto, mikä tarkoittaa, että virheellinen konteksti voi johtaa virheellisen tiedon generoimiseen ja leviämiseen. Jos AI-järjestelmä on rakennettu virheellisistä, vanhentuneista tai puolueellisista tiedoista, sen tulokset heijastelevat tätä.

Asia on siinä, että LLM on yhtä hyvä kuin sen syöte, erityisesti kun ihmisten väliintuloa tai valvontaa ei ole. Mitä enemmän itsenäisiä AI-ratkaisuja kehitetään, sitä tärkeämpää on varmistaa, että työkaluille annetaan oikea tietokonteksti hallusinaatioiden estämiseksi. Tarvitsemme tietojen tiukkaa koulutusta ja/tai mahdollisuutta ohjata LLM:ia vastaamaan vain annetusta kontekstista, eikä haeta tietoa mistä tahansa internetistä.

Miksi hallusinaatiot ovat tärkeitä?

Asiakaspalveluun keskittyvissä yrityksissä tarkkuus on kaikki. Jos työntekijät luottavat AI:hin tehtävissä, kuten asiakastietojen yhdistämisessä tai asiakaskysymyksiin vastaamisessa, heidän on luotettava siihen, että työkalujen generoimat vastaukset ovat oikein.

Muuten yritykset riskivät maineensa ja asiakasuskollisuutensa. Jos asiakkaat saavat riittämättömiä tai virheellisiä vastauksia chatbotilta tai joutuvat odottamaan, kunnes työntekijät tarkistavat chatbotin tulokset, he voivat viedä liiketoimintansa muualle. Ihmiset eivät pidä huolehtia siitä, antavatko yritykset, joilla he tekevät töitä, heille virheellistä tietoa – he haluavat nopeaa ja luotettavaa tukea, mikä tarkoittaa, että nämä vuorovaikutukset on saatava oikein, ja se on ensiarvoisen tärkeää.

Liiketoimintajohtajien on tehtävä kotiläksynsä valitessaan oikean AI-työkalun työntekijöilleen. AI on tarkoitettu vapauttamaan aikaa ja energiaa työntekijöille, jotta he voivat keskittyä arvokkaampiin tehtäviin; sijoittaminen chatbotiin, joka vaatii jatkuvaa ihmisen tarkastelua, tuhoaa koko toteutuksen tarkoituksen. Mutta ovatko hallusinaatiot todella niin yleisiä vai onko termi yksinkertaisesti liian usein käytetty kuvaamaan mitä tahansa vastausta, jonka oletamme olevan virheellinen?

AI-hallusinaatioiden torjunta

Ota huomioon: Dynaaminen merkitysteoria (DMT), joka on ymmärrys siitä, että kahden henkilön (käyttäjän ja AI:n) välinen viesti vaihdetaan. Mutta kielen ja aiheiden tiedon rajoitukset aiheuttavat tulkinnan epäsymmetrian vastauksessa.

AI:n generoimissa vastauksissa on mahdollista, että algoritmit eivät ole vielä täysin varustettu tulkkaamaan tai generoimaan tekstiä tavalla, joka vastaa odotuksiamme ihmisinä. Tämä epäsymmetria voi johtaa vastauksiin, jotka vaikuttavat pinnallisesti oikeilta, mutta lopulta puuttuvat syvyyttä ja hienostuneisuutta, jotka ovat välttämättömiä todelliselle ymmärrykselle.

Lisäksi useimmat yleispätevät LLM:t hakevat tietoa vain julkisesti saatavilla olevasta internet-sisällöstä. Yritysten AI-sovellukset toimivat paremmin, kun ne perustuvat tietoihin ja politiikkoihin, jotka ovat yksilöllisiä kullekin alalle ja yritykselle. Malleja voidaan myös parantaa suoran ihmisen palautteen avulla – erityisesti agenteille, jotka on suunniteltu vastaamaan sävyyn ja syntaksiin.

Nämä työkalut on myös testattava tiukasti ennen kuin ne tulevat kuluttajien saataville. Tämä on kriittinen osa AI-hallusinaatioiden estämistä. Koko prosessi on testattava vuoropuheluilla, joissa LLM toimii hahmona. Tämä mahdollistaa yritysten paremman arvion siitä, miten vuoropuhelut AI-mallin kanssa onnistuvat ennen sen julkaisemista.

On olennaista sekä AI-tekniikan kehittäjille että käyttäjille olla tietoisia dynaamisesta merkitysteoriasta saaduista vastauksista sekä kielen dynamiikasta, jota käytetään syötteenä. Muista, konteksti on avain. Ja ihmisinä suurin osa kontekstistamme ymmärretään hiljaisesti, olipa se kehonkieli, sosiaaliset trendit – jopa sävy. Ihmisinä meillä on potentiaali hallucinoida vastauksissa kysymyksiin. Mutta nykyisessä AI-versiossamme ihmisten välinen ymmärrys ei ole helppo kontekstualisoida, joten meidän on oltava kriittisempiä kontekstista, jonka annamme kirjoittamalla.

Riittää sanoa, että kaikki AI-mallit eivät ole samanarvoisia. Kun teknologia kehittyy täyttämään yhä monimutkaisempia tehtäviä, on yritysten, jotka harkitsevat toteutusta, tunnistettava työkalut, jotka parantavat asiakasvuorovaikutuksia ja -kokemuksia, eikä heikennä niitä.

Velvollisuus ei ole ainoastaan ratkaisujen tarjoajilla varmistaa, että he ovat tehneet kaiken voitavansa minimoidakseen hallusinaatioiden mahdollisuuden. Myös potentiaalisilla ostajilla on roolinsa. Priorisoidessaan ratkaisuja, jotka on koulutettu ja testattu tiukasti ja jotka voivat oppia yrityskohtaisista tiedoista (eikä kaiken internetin tiedosta), yritykset voivat saada enemmän irti AI-sijoituksistaan ja asettaa työntekijät ja asiakkaat menestykseksi.