Jos teidän tekoäly hallucinoi, älkää syyttäkö tekoälyä

Tekoälyn “hallusinaatiot” – ne vakuuttavasti kuulostavat, mutta väärät vastaukset – saavat paljon mediahuomiota, kuten äskettäin The New York Timesin artikkelissa, AI Is Getting More Powerful, But Its Hallucinations Are Getting Worse. Hallusinaatiot ovat oikea vaara, kun teidän käsittelette kuluttaja-chatbottia. Liiketoiminnan sovelluksissa tekoälyä luvaten se on vielä vakavampi huolenaihe. Onneksi minulla on enemmän valtaa siihen, koska olen liiketoimintateknologian johtaja. Voin varmistaa, että agentilla on oikeat tiedot, jotta se voi tuottaa merkityksellisen vastauksen.

Koska se on todellinen ongelma. Liiketoiminnassa ei ole mitään tekosyytä tekoälyn hallusinaatioille. Lopettakaa tekoälyn syyttäminen. Syyttäkää itseänne siitä, ette te käytä tekoälyä oikein.

Kun generatiiviset tekoälytyökalut hallucinoivat, ne tekevät sitä, mille ne on suunniteltu – antavat parhaan vastauksen, jonka ne voivat antaa saatavilla olevien tietojen perusteella. Kun ne keksivät asiat, tuottaen vastauksen, joka ei perustu todellisuuteen, se johtuu siitä, että niillä ei ole tarvittavia tietoja, eivätkä ne voi löytää niitä tai ymmärtää kysymystä. Kyllä, uudet mallit, kuten OpenAI:n o3 ja o4-mini, hallucinoivat enemmän, toimien “luovammin”, kun niillä ei ole hyvää vastausta esitettyyn kysymykseen. Kyllä, voimakkaammat työkalut voivat hallucinoida enemmän – mutta ne voivat myös tuottaa voimakkaampia ja arvokkaampia tuloksia, jos me asetamme ne menestykseen.

Jos et halua, että tekoälysi hallucinoi, älä nälkytä sitä tiedoilla. Anna tekoälylle parhaat, merkityksellisimmät tiedot ongelmaan, jonka haluat sen ratkaisemaan, ja se ei ole kiusattuna poikkeamaan.

Myös silloin, kun työskentelet minkä tahansa tekoälytyökalun kanssa, suosittelen pitämään kriittisen ajattelukykyisiä. Tekoälyagenttien antamat tulokset voivat olla tuottavia ja miellyttäviä, mutta pointti ei ole kytkettynä aivoja ja antaa ohjelmistolle kaiken ajattelun. Jatka kysymyksiä. Kun tekoälyagentti antaa sinulle vastauksen, kysele sitä vastausta, jotta varmistat, että se on järkevää ja perustuu tietoihin. Jos on, se on rohkaiseva merkki siitä, että se on arvokasta kysyä seuraavia kysymyksiä.

Mitä enemmän kysyt, sitä parempia oivalluksia saat.

Miksi hallusinaatiot tapahtuvat

Se ei ole mikään mysteeri. Tekoäly ei yritä valehdella sinulle. Jokainen suuri kielen malli (LLM) tekoäly on perustuvasti ennustamassa seuraavaa sanaa tai numeroa todennäköisyyden perusteella.

Yleisellä tasolla tapahtuu tässä, että LLM:t rakentavat lauseita ja kappaleita yhden sanan kerrallaan, ennustamalla seuraavaa sanaa, joka pitäisi esiintyä lauseessa perustuen muihin esimerkkeihin koulutusaineistossa. LLM- esivanhemmat (Clippyn lisäksi) olivat automaattisia tekstiviesti- ja tietokonekoodin täydentämismerkintöjä, automaattisia kielienkäännöstyökaluja ja muita todennäköisyysperusteisia kielijärjestelmiä. Lisäämällä raakalaskentakapasiteettia ja kouluttamalla internetin mittakaavan tietoja, nämä järjestelmät “tulevat älymmissä” niin, että ne voivat käydä täysimittaisen keskustelun chatin kautta, kuten maailma oppi ChatGPT:n julkaisun myötä.

Tekoälyvastustajat haluavat korostaa, että tämä ei ole sama kuin “oikea” äly, vaan ohjelmisto, joka voi tiivistää ja uudelleenjulkaista ihmisen älykkyyden, joka on syötetty siihen. Kysy siltä, että se tiivistää tietoja kirjoitetussa raportissa, ja se jäljittelee, miten muut kirjailijat ovat tiivistäneet samanlaisia tietoja.

Se vaikuttaa minusta akateemiselta argumentilta, kunhan tiedot ovat oikein ja analyysi on hyödyllistä.

Mikä tapahtuu, jos tekoälyllä ei ole tietoja? Se täyttää tyhjät kohdat. Joskus se on hauskaa. Joskus se on täysi sotku.

Kun tekoälyagentteja rakennetaan, tämä on 10-kertainen riski. Agenttien on tarkoitus antaa toimintavinkkejä, mutta ne tekevät enemmän päätöksiä matkalla. Ne suorittavat monivaiheisia tehtäviä, joissa vaiheen 1 tulos kertoo vaiheista 2, 3, 4, 5, … 10 … 20. Jos vaiheen 1 tulokset ovat virheellisiä, virhe korostuu, ja vaiheen 20 tulos on paljon huonompi. Erityisesti, koska agentit voivat tehdä päätöksiä ja hypätä vaiheita yli.

Tehty oikein, agentit saavuttavat enemmän liiketoiminnalle, joka ottaa ne käyttöön. Kuitenkin tekoälyn tuotejohtajina meidän on tunnustettava suurempi riski, joka liittyy suurempaan palkkioon.

Mikä meidän tiimimme teki. Me näimme riskin ja ratkaisimme sen. Me emme vain rakentaneet hienoa robottia; me varmistimme, että se toimii oikeilla tiedoilla. Tässä on, mitä me olemme tehneet oikein:

• Rakennamme agentin kysymään oikeita kysymyksiä ja vahvistamaan, että sillä on oikeat tiedot. Varmistamme, että agentin alkuperäinen tietojen syöttöprosessi on todellinen, vähemmän “luova”. Haluamme, että agentti sanoo, kun sillä ei ole oikeita tietoja, eikä jatka seuraavaan vaiheeseen, vaan keksii tietoja.
• Rakennamme pelikirjan agentille – varmistamme, että se ei keksisi uutta suunnitelmaa joka kerta, vaan on puolivaltainen lähestymistapa. Rakenne ja konteksti ovat erittäin tärkeitä tietojen keräämisen ja analyysivaiheessa. Voimme antaa agentin toimia “luovammin”, kun se on saanut faktat oikein ja on valmis kirjoittamaan yhteenvedon, mutta ensin saamme faktat oikein.
• Rakennamme laadukkaan työkalun tietojen keräämiseksi. Tämä ei ole vain API-kutsu. Otamme aikaa kirjoittamaan koodin (ihmiset tekevät edelleen sitä), joka luo oikean määrän ja lajin tietoja, jotka kerätään, ja rakennamme laadunvalvontatarkistukset prosessiin.
• Tehdään agentin näyttää työnsä. Agentin on mainittava lähteensä ja linkittävä, mihin käyttäjä voi vahvistaa tiedot, alkuperäisestä lähteestä, ja tutkia niitä tarkemmin. Ei ole sallittua salata tietoja!
• Suojavarustus: Ajatellaan, mitä voi mennä pieleen, ja rakennetaan suojausvirheitä vastaan, joita emme voi sallia. Tapauksessamme se tarkoittaa, että kun agentti, joka on tehtävä analysoimaan markkinaa, ei ole tietoja – tarkoitan meidän Similarweb-tietoja, eikä satunnaista tietolähdettä, joka on poimittu internetistä – varmistamme, että se ei keksisi mitään. On parempi, että agentti ei voi vastata, kuin antaa virheellisen tai harhaanjohtavan vastauksen.

Olemme sisällyttäneet nämä periaatteet viimeisimpiin kolmeen uuteen agenttiimme, ja lisää tulee. Esimerkiksi aiemmin mainittu AI-kokousvalmistelun agentti myyjille ei kysy vain kohdeyrityksen nimeä, vaan myös tietoja kokouksen tavoitteesta ja siitä, kuka siinä on mukana, valmistaen sen antamaan paremman vastauksen. Se ei ole pakotettu arvaamaan, koska se käyttää runsaasti yritystietoja, digitaalista tietoa ja johtajaprofiileja perustamaan suosituksiaan.

Ovatko agenttimme täydellisiä? Ei. Kukaan ei luo täydellistä tekoälyä, ei edes maailman suurimmat yritykset. Mutta ongelman kohtaaminen on paljon parempaa kuin sen välinpitämättömyys.

Haluatko vähemmän hallusinaatioita? Anna tekoälylle hyvä määrä laadukkaita tietoja.

Jos se hallucinoi, ehkä se ei ole tekoäly, joka tarvitsee korjausta. Ehkä se on lähestymistapanne, jolla otat hyödyksi näitä voimakkaita uusia ominaisuuksia ilman sitä, että panet aikaa ja vaivaa sen saamiseen oikein.

em on paljon parempi kuin sen välinpitämättömyys. Haluatko vähemmän hallusinaatioita? Anna tekoälylle hyvä määrä laadukkaita tietoja. Jos se hallucinoi, ehkä se ei ole tekoäly, joka tarvitsee korjausta. Ehkä se on lähestymistapanne, jolla otat hyödyksi näitä voimakkaita uusia ominaisuuksia ilman sitä, että panet aikaa ja vaivaa sen saamiseen oikein.