Zastavení AI při vytváření příběhů: Průvodce prevencí hallucinací

AI revolucionalizuje způsob, jakým téměř každý průmysl funguje. Zvyšuje naší efektivitu, produktivitu a – pokud je správně implementován – činí nás lepšími ve našich pracovních úkolech. Ale zatímco naše závislost na této nové technologii rychle roste, musíme si připomínat jednu jednoduchou skutečnost: AI není neomylná. Jejich výstupy by neměly být brány jako samozřejmé, protože, stejně jako lidé, AI může dělat chyby.

Tyto chyby nazýváme “hallucinacemi AI”. Takové nehody se pohybují od řešení matematického problému nesprávně až po poskytování nesprávných informací o vládních politikách. V высокoregulovaných odvětvích mohou hallucinace vést k nákladným pokutám a právním problémům, ne-li k nespokojeným zákazníkům.

Četnost hallucinací AI by měla být důvodem k obavám: odhaduje se, že moderní velké jazykové modely (LLM) hallucinujíAnywhere od 1% do 30% času. To vede k generování stovek falešných odpovědí denně, což znamená, že podniky, které chtějí využít tuto technologii, musí být velmi selektivní při výběru nástrojů, které budou implementovat.

Podívejme se, proč se hallucinace AI vyskytují, co je na hře a jak je můžeme identifikovat a opravit.

Garbage in, garbage out

Pamatujete si, jak jste hráli jako dítě hru “telefon”? Jak se výchozí fráze změnila, když prošla od hráče k hráči, výsledkem byla úplně jiná prohlášení, než když se dostala kolem kruhu?

Způsob, jakým AI učí z jeho vstupů, je podobný. Odpovědi, které generují LLM, jsou pouze tak dobré, jako je informace, které dostávají, což znamená, že nesprávný kontext může vést k generování a šíření falešných informací. Pokud je systém AI postaven na datech, které jsou nesprávné, zastaralé nebo zkreslené, pak jeho výstupy budou odrážet to.

Jako takový je LLM pouze tak dobrý, jako jsou jeho vstupy, zejména když je nedostatek lidského zásahu nebo dohledu. Když se více autonomních řešení AI šíří, je kritické, aby poskytli nástrojům správný kontext dat, aby se zabránilo vzniku hallucinací. Potřebujeme přísné školení těchto dat a / nebo schopnost vést LLM, aby reagovaly pouze z kontextu, který jim byl poskytnut, spíše než tahání informací z celého internetu.

Proč hallucinace záleží?

Pro zákaznické podniky je přesnost vším. Pokud zaměstnanci spoléhají na AI pro úkoly, jako je syntéza zákaznických dat nebo odpovědi na zákaznické dotazy, potřebují důvěřovat, že odpovědi, které tyto nástroje generují, jsou přesné.

V opačném případě podniky riskují poškození své pověsti a zákaznické loajality. Pokud zákazníci dostávají nedostatečné nebo falešné odpovědi od chatbota nebo pokud musí čekat, zatímco zaměstnanci ověřují výstupy chatbota, mohou vzít své podnikání jinde. Lidé by se neměli bát, zda podniky, se kterými interagují, poskytují falešné informace – chtějí rychlou a spolehlivou podporu, což znamená, že tyto interakce jsou nejdůležitější.

Vedoucí podniků musí udělat svou povinnost, když vybírají správný nástroj AI pro své zaměstnance. AI má uvolnit čas a energii pro zaměstnance, aby se mohli soustředit na vyšší hodnotové úkoly; investice do chatbota, který vyžaduje neustálý lidský dohled, poráží účel adopce. Ale je existence hallucinací opravdu tak prominentní nebo je termín prostě nadužíván k identifikaci s jakoukoli odpovědí, kterou předpokládáme jako nesprávnou?

Boj proti hallucinacím AI

Vezměte v úvahu: Dynamic Meaning Theory (DMT), koncept, že porozumění mezi dvěma osobami – v tomto případě uživatelem a AI – jsou vyměňovány. Ale omezení jazyka a znalosti předmětů způsobují nesoulad v interpretaci odpovědi.

V případě odpovědí generovaných AI je možné, že základní algoritmy nejsou dosud plně vybaveny k přesnému interpretování nebo generování textu způsobem, který odpovídá našim očekáváním jako lidem. Tento nesoulad může vést k odpovědím, které na povrchu vypadají přesně, ale nakonec postrádají hloubku nebo nuance vyžadovanou pro skutečné porozumění.

Dále většina obecných LLM tahá informace pouze z obsahu, který je veřejně dostupný na internetu. Podnikové aplikace AI fungují lépe, když jsou informovány o datech a politikách, které jsou specifické pro jednotlivé odvětví a podniky. Modely lze také zlepšit přímou lidskou zpětnou vazbou – zejména agentic řešení, která jsou navržena tak, aby reagovala na tón a syntax.

Takové nástroje by také měly být přísně testovány předtím, než se stanou spotřebitelsky orientovanými. To je kritická část prevence hallucinací AI. Celý tok by měl být testován pomocí konverzačních konverzací s LLM, které hrají roli osobnosti. To umožňuje podnikům lépe předpokládat obecný úspěch konverzací s modelem AI před jeho uvolněním do světa.

Je zásadní, aby se vývojáři i uživatelé AI technologie drželi dynamické teorie významu v odpovědích, které dostávají, jakož i dynamiky jazyka použitého ve vstupu. Pamatujte, kontext je klíčový. A jako lidé máme většinu našeho kontextu porozuměno neprořízenými prostředky, ať už se jedná o neverbální komunikaci, společenské trendy – dokonce i náš tón. Jako lidé máme potenciál hallucinovat v reakci na otázky. Ale v naší současné iteraci AI není naše lidské porozumění tak snadno kontextualizováno, takže musíme být více kritičtí k kontextu, který poskytujeme písmem.

Šťastně, ne všechny modely AI jsou vytvořeny stejně. Když se technologie vyvíjí, aby dokončila stále složitější úkoly, je kritické, aby podniky, které zvažují implementaci, identifikovaly nástroje, které budou zlepšovat zákaznické interakce a zkušenosti, spíše než je odvádět.

Nátlak není pouze na poskytovatele řešení, aby zajistili, že udělali vše, co je v jejich moci, aby minimalizovali šanci na to, aby se hallucinace vyskytly. Potenciální kupci mají také svou roli. Prioritizací řešení, která jsou přísně testována a mohou se učit z vlastních dat (místo všeho a všude na internetu), mohou podniky získat maximum z jejich investic do AI a nastavit zaměstnance a zákazníky pro úspěch.