Mitä kriittisemmästä päätöksestä on kyse, sitä vähemmän AI:n tulisi toimia yksin

AI-välittäjillä on ilmiselvästi ongelma, joka naamioituu heidän etujensa esittelyksi. Välittäjä puhuu luottavaisesti ja kirjoittaa tyylikkäästi, prosessoiden tietoa ihmistä nopeammin. Tämä voi antaa vaikutelman, että AI on valmis toimimaan itsenäisesti. Todellisuudessa kuitenkin niin pian, kun päätös liittyy oikeaan rahaan, asiakkaan odotuksiin ja luottamukseen, AI:n ei tulisi olla itsenäinen järjestelmä, koska se tarvitsee edelleen aikuisten valvontaa.

Tämä oppi ei johdu teoriasta – se opittiin testaamalla, kun luksuslifestyle-palvelun AI pystyi vuorovaikkuun todellisten asiakkaiden kanssa.

Hyväntahtoinen neuvonta, joka voi olla vaarallista

AI-pohjaisen lifestyle-hallinnon sovelluksen alkutesteissä järjestelmä näytti ensin vaikuttavalta. Se pystyi kokoamaan lyhyen listan ravintoloista, ehdottamaan viihdeoptioita, laatimaan paikallisten toimien aikatauluja ja yhdistämään kaiken tämän selkeisiin, laadukkaisiin suositeluihin. Mutta noin 15 prosentissa tapauksista se keksi yksinkertaisesti yksityiskohdat – ja teki niin vakuuttavasti, että ne olivat uskottavia.

On esimerkki, joka teki tämän ongelman mahdottomaksi ignoreerata: AI suositteli ravintolaa Dubaissa, joka oli suljettu kahdeksan kuukautta aikaisemmin. Kun asiakas kysyi siitä, se ei epäröinyt tai myöntänyt virhettään. Välittäjä vakuutteli virheensä ja siteerasi arvostelun.

Toisella kertaa Agent sekoitti kadunvarsiruokabaarin Michelin-tähtiravintolaan, koska nimet olivat jonkin verran samanlaiset. Jos ihminen ei olisi tarkastanut tilausta, concierge-palvelun asiakas olisi voinut päätyä illalliselle, joka ei ollut mitään sellaista, mitä oli suunniteltu.

Sitten oli tapaus padel-pelillä. Asiakas kysyi urheiluseurasta, jossa oli padel-kenttiä. AI oli ohjaamassa häntä paikkaan, jossa oli vain tenniskenttiä. Miksi? Koska jossakin lähdetiedoissa se löysi uutisartikkelin, jossa kerrottiin, että padel-kenttiä suunniteltiin rakennettavaksi sinne, ja se muunsi “suunniteltu” “jo olemassa” -muotoon. Tämä on juuri se, mikä tekee malleista riskialttiita kokeiluja palvelusektorilla: vaikka AI:llä ei ole täydellisiä ja tarkkoja tietoja, se ei lopeta toimintaa – se improvisoi.

AI-harhat liikevaarana

Tämä ongelma ei ole millään tavoin rajoitettu matkailualaan – se liittyy itse AI:n toteutukseen.

Selkeästi määritellyissä parametreissa AI toimii loistavasti. Voit antaa sille rakenteelliset tiedot, ajan tasalla olevat API:t, ja se ylittää sinut laajasti. Se voi järjestää tapaukset seitsemäntoista parametrin mukaan, skannata nopeasti säännöt ja generoida valmiita luonnoksia sekunneissa. Mutta todellinen maailma on kaukana rakenteellisesta tietokannasta. Todellisuus on täynnä reunatapauksia, vanhentuneita tietoja, epämääräisiä preferenssejä, epäselviä sanoituksia ja toiminnallisia aukkoja.

Tässä on juuri se, missä harhat alkavat muodostua liikevaaraksi. Tutkimukset ovat toistuvasti varoittaneet, että harhat voivat tuhota luottamuksen välittömästi, erityisesti kun asiakas saa hienostunutta mutta epätarkkaa tietoa päätöksenteon hetkellä. Ihmiset käyttävät jo laajasti AI-suunnittelijoita, mutta luottamus puuttuu edelleen.

HNWIs ovat lopullinen stressitesti AI:lle

Nyt nostetaan panokset.

AI käsittelee helposti standarditehtäviä – esimerkki tällaisesta tehtävästä on matkan varaaminen Lontoosta Dubaihin: liikematkustaminen, neljän tähden hotelli kolmeksi yöksi. Todellinen stressitesti on kuitenkin HNWI-lähettiläs: se on meidän hääpäivämme. Hän mainitsi ravintolan Amalfissa, jossa on sininen ovi. Hän rakastaa pionia, mutta vihaa ruusuja, ja hän tulee tuntemaan itsensä mukavammaksi, jos kuskin puhuu ranskaa.

Tällainen pyyntö kuulostaa tyylikkäältä, mutta toiminnallisen kannalta se on miinakenttä. AI-välittäjä ehdottaa varmasti vaihtoehtoja, mutta se voi myös antaa 40 prosenttisesti virheellistä tietoa täydellisen luottavaisesti.

Asiakkaat luksus- ja HNWI-segmenteissä paljastavat AI:n todelliset rajoitukset nopeammin kuin mikään testi, koska heidän pyynnönsä eivät ole standardoituja, ja heidän odotuksensa ovat emotionaalisia, kontekstiriippuvaisia ja erittäin spesifejä. Useimmiten tällaiset pyynnöt ovat vaikeita vahvistaa automaattisesti.

Lisäksi HNWI-asiakkaiden palvelemisen epäonnistuminen ei pääty yksinkertaiseen hyvitykseen. Se vahingoittaa yhtiön mainetta, koska suositukset ja luottamus ovat äärimmäisen tärkeitä tässä segmentissä.

Oikeat työntekijät kohtaavat nämä harhat joka päivä. He huomaavat ravintolan, joka sattuu olemaan suljettu juuri tiistaina, kun asiakas saapuu, ja nopean viiden minuutin kävelyn, joka osoittautuu oikeasti 25 minuutin mäkimäiseksi nousuksi laukkujen kanssa. Koulutettu asiantuntija ei ylittäisi boutique-hotellia, joka näyttää täydelliseltä valokuvissa, mutta on todellisuudessa peitetty parvekkeella korjaustöiden vuoksi.

Miksi fintech vaatii tarkin tarkkuuden, ei nopeutta

Voimme soveltaa samaa logiikkaa koko fintech-alalle. AI voi analysoida tuotteita, vertailla vaihtoehtoja, tunnistaa poikkeamat ja generoida suositukset nopeasti ja tehokkaasti. Mutta kun on kyse rahasta, siinä on nolla toleranssi satunnaisille virheille.

Fintech-yritykset maksavat nyt hinnan päätöksistä, jotka tehdään automaattisesti – asiakkaan luottamuksen menettämisestä. Onnistuneet yritykset toteuttavat valvontamekanismit alusta alkaen, eivätkä esitä niitä jälkikäteen, kun vahinko on jo tapahtunut; oikea malli sisältää ihmisen valvonnan.

Lisäksi tarvitaan erillinen vahvistuskerros AI:n ja asiakkaan välille – vaihe, jossa tulos tarkistetaan perusteellisesti ja turvataan. Aloilla, joilla virheen kustannus on korkea, tämä kerros muodostaa tuotteen perustan.

Enemmän hyödyllinen käsite on infrastruktuuri. AI tulisi keskittyä rakenteellisiin tehtäviin: tutkimukseen, lajitteluun, vertailuun ja luonnosteluihin. Tässä prosessissa ihmiset tulisi tehdä lopulliset päätökset. Ajan myötä jotkut työprosessit tulevat vakaiksi riittävästi täysin automaattiseksi. Tuolloin on todennäköisesti mahdollista perustaa perusta, mutta tämä tulisi tehdä perustuen todisteisiin, ei uskoon.

Nämä ideat saattavat kuulostaa vähemmän inspiroivilta kuin täysin autonomisen tulevaisuuden, mutta tämä on juuri se, miten vakavat yritykset lopulta onnistuvat.