Jos tekoälysi hallusinoi, älä syytä tekoälyä

Tekoälyn "hallusinaatiot" – nuo ​​vakuuttavilta kuulostavat mutta väärät vastaukset – herättävät paljon mediahuomiota, kuten New York Timesin hiljattain julkaisemassa artikkelissa, Tekoäly voimistuu, mutta sen hallusinaatiot pahenevatHallusinaatiot ovat todellinen vaara, kun on tekemisissä kuluttaja-chatbotin kanssa. Tekoälyn liiketoimintasovellusten yhteydessä se on vielä vakavampi huolenaihe. Onneksi liiketoimintateknologiajohtajana minulla on myös enemmän hallintaa siihen. Voin varmistaa, että asiakaspalvelijalla on oikeat tiedot merkityksellisen vastauksen tuottamiseksi.

Koska se on todellinen ongelma. Liike-elämässä ei ole mitään tekosyytä sille, AI hallusinaatiotLopeta tekoälyn syyttäminen. Syytä itseäsi tekoälyn väärinkäytöstä.

Kun generatiivinen tekoäly työkalut hallusinoivat, ne tekevät sitä, mihin ne on suunniteltu – tarjoavat parhaan mahdollisen vastauksen käytettävissä olevan tiedon perusteella. Kun ne keksivät asioita ja tuottavat vastauksen, joka ei perustu todellisuuteen, se johtuu siitä, että heiltä puuttuu asiaankuuluvat tiedot, he eivät löydä niitä tai he eivät ymmärrä kysymystäKyllä, uudet mallit, kuten OpenAI:n o3 ja o4-mini, hallusinoivat enemmän ja toimivat entistä "luovammin", kun niillä ei ole hyvää vastausta niille esitettyyn kysymykseen. Kyllä, tehokkaammat työkalut voivat hallusinoimaan enemmän – mutta ne voivat myös tuottaa tehokkaampia ja arvokkaampia tuloksia, jos asetamme ne menestykseen.

Jos et halua tekoälysi hallusinoivan, älä näännytä sitä datan kanssa. Syötä tekoälylle parasta ja olennaisinta dataa ongelman kannalta, jonka haluat sen ratkaisevan, niin se ei tunne kiusausta eksyä.

Suosittelen kuitenkin, että minkä tahansa tekoälytyökalun kanssa työskennellessäsi pidät kriittisen ajattelun taitosi kurissa. Tekoälyagenttien toimittamat tulokset voivat olla tuottavia ja ilahduttavia, mutta tarkoituksena ei ole irrottaa aivojasi ja antaa ohjelmiston ajatella kaikkea puolestasi. Jatka kysymysten esittämistä. Kun tekoälyagentti antaa sinulle vastauksen, kyseenalaista vastaus varmistaaksesi, että se on järkevä ja datan tukema. Jos näin on, sen pitäisi olla rohkaiseva merkki siitä, että jatkokysymysten esittämiseen kannattaa käyttää aikaa.

Mitä enemmän kyseenalaistat, sitä parempia oivalluksia saat.

Miksi hallusinaatioita esiintyy

Se ei ole mikään mysteeri. Tekoäly ei yritä valehdella sinulle. Jokainen suuren kielimallin (LLM) tekoäly ennustaa seuraavan sanan tai numeron todennäköisyyden perusteella.

Korkealla tasolla tässä tapahtuu se, että oikeustieteen matematiikka (LLM) yhdistää lauseita ja kappaleita sana kerrallaan ja ennustaa lauseessa seuraavan sanan miljardien muiden harjoitusdatan esimerkkien perusteella. LLM-järjestelmien esi-isät (Clippyä lukuun ottamatta) olivat tekstiviestien ja tietokonekoodin automaattisesti täydentäviä kehotteita, automatisoituja ihmiskielen käännöstyökaluja ja muita probabilistisia kielitieteellisiä järjestelmiä. Lisääntyneen raa'an voiman laskentatehon ja internet-mittakaavan datamäärien harjoittelun myötä näistä järjestelmistä tuli niin "älykkäitä", että ne pystyivät käymään täysimittaisia ​​keskusteluja chatin kautta, kuten maailma oppi ChatGPT:n käyttöönoton myötä.

Tekoälyn epäilijät muistuttavat usein, että tämä ei ole sama asia kuin oikea "älykkyys", vaan ainoastaan ​​ohjelmisto, joka pystyy tislaamaan ja kierrättämään siihen syötettyä ihmisälyä. Jos sitä pyydetään tiivistämään data kirjallisessa raportissa, se jäljittelee tapaa, jolla muut kirjoittajat ovat tiivistäneet vastaavaa dataa.

Tuo vaikuttaa minusta akateemiselta argumentilta, kunhan tiedot ovat oikein ja analyysi on hyödyllistä.

Mitä tapahtuu, jos tekoälyllä ei ole dataa? Se täyttää tyhjät kohdat. Joskus se on hauskaa. Joskus se on täysi sotku.

Rakentaessaan AI-agentit, tämä on 10 kertaa suurempi riski. Agenttien on tarkoitus tarjota toimintakelpoisia näkemyksiä, mutta he tekevät enemmän päätöksiä matkan varrella. He suorittivat monivaiheisia tehtäviä, joissa vaiheen 1 tulos ohjaa vaiheita 2, 3, 4, 5, … 10 … 20. Jos vaiheen 1 tulokset ovat virheellisiä, virhe moninkertaistuu, mikä tekee vaiheen 20 tuloksesta entistäkin pahemman. Varsinkin kun agentit voivat tehdä päätöksiä ja ohittaa vaiheita.

Oikein tehtynä agentit saavat enemmän aikaan heitä käyttävälle yritykselle. Tekoälytuotepäälliköinä meidän on kuitenkin tunnistettava suurempi riski, joka liittyy suurempaan palkkioon.

Juuri niin tiimimme tekikin. Näimme riskin ja tartuimme siihen. Emme rakentaneet vain hienoa robottia; varmistimme, että se toimii oikeilla tiedoilla. Tässä on mielestäni oikein tehtyjä asioita:

• Rakenna agentti kysymään oikeita kysymyksiä ja varmistamaan, että sillä on oikeat tiedot. Varmista, että agentin alkuperäinen tiedonsyöttöprosessi on itse asiassa enemmän deterministinen, vähemmän "luova". Haluat agentin ilmoittavan, kun sillä ei ole oikeaa dataa, eikä jatka seuraavaan vaiheeseen sen sijaan, että se keksisi tiedot.
• Laadi agenttillesi toimintasuunnitelma – varmista, ettei se keksi uutta suunnitelmaa joka kerta, vaan että lähestymistapa on puolistrukturoitu. Rakenne ja konteksti ovat erittäin tärkeitä tiedonkeruu- ja analysointivaiheessa. Voit antaa agentin rentoutua ja toimia "luovammin", kun hänellä on faktat ja hän on valmis kirjoittamaan yhteenvedon, mutta ensin varmista, että faktat ovat oikein.
• Rakenna laadukas työkalu datan poimimiseen. Tämän tulisi olla enemmän kuin pelkkä API-kutsu. Käytä aikaa koodin kirjoittamiseen (niin tehdään edelleen), joka tuottaa oikean määrän ja monipuolisuuden dataa kerättäväksi, ja sisällytä prosessiin laaduntarkistukset.
• Anna agentin näyttää työnsä. Agentin tulee mainita lähteet ja linkittää paikkaan, josta käyttäjä voi tarkistaa tiedot alkuperäisestä lähteestä ja tutkia niitä lisää. Vähättelyä ei sallita!
• Kaiteet: Mieti läpi, mikä voisi mennä pieleen, ja rakenna suojauksia virheitä vastaan, joita et missään nimessä voi sallia. Meidän tapauksessamme tämä tarkoittaa sitä, että kun markkinoita analysoivalla agentilla ei ole dataa – tarkoitan tällä Similarweb-dataa, en jotain satunnaista verkosta poimittua datalähdettä – on tärkeää varmistaa, ettei data keksi mitään. On parempi, että agentti ei pysty vastaamaan, kuin että hän antaa väärän tai harhaanjohtavan vastauksen.

Olemme sisällyttäneet nämä periaatteet viimeaikaiseen kolmen uuden agenttimme julkaisuun, ja lisää on tulossa. Esimerkiksi myyjille suunnattu tekoälyyn perustuva kokousten valmisteluagenttimme ei kysy vain kohdeyrityksen nimeä, vaan myös tietoja kokouksen tavoitteesta ja osallistujasta, mikä valmistaa sitä antamaan paremman vastauksen. Sen ei tarvitse arvailla, koska se käyttää runsaasti yritystietoja, digitaalista dataa ja johtajien profiileja suositustensa pohjana.

Ovatko agenttimme täydellisiä? Eivät. Kukaan ei ole vielä luomassa täydellistä tekoälyä, eivät edes maailman suurimmat yritykset. Mutta ongelman kohtaaminen on paljon parempi kuin sen sivuuttaminen.

Haluatko vähemmän hallusinaatioita? Anna tekoälyllesi mukavasti aikaa korkealaatuista dataa.

Jos se hallusinoi, ehkä korjaamista ei tarvitse tehdä tekoälyssä. Ehkä kyse on lähestymistavastasi näiden uusien tehokkaiden ominaisuuksien hyödyntämiseen ilman, että käytät aikaa ja vaivaa niiden tekemiseen oikein.