Oprirea inteligenței artificiale de a crea povești: Ghid pentru prevenirea halucinațiilor

Inteligența artificială revoluționează modul în care funcționează aproape toate industriile. Ne face mai eficienți, mai productivi și, atunci când este implementată corect, mai buni la locurile noastre de muncă. Dar pe măsură ce dependența noastră de această tehnologie nouă crește rapid, trebuie să ne amintim de un singur fapt simplu: inteligența artificială nu este infailibilă. Rezultatele sale nu ar trebui luate la valoare nominală, deoarece, la fel ca oamenii, inteligența artificială poate face greșeli.

Numim aceste greșeli “halucinații ale inteligenței artificiale”. Asemenea erori pot varia de la a răspunde incorect la o problemă matematică până la furnizarea de informații inexacte despre politici guvernamentale. În industrii puternic reglementate, halucinațiile pot duce la amenzi costisitoare și probleme legale, fără a mai menționa clienții nemulțumiți.

Frecvența halucinațiilor inteligenței artificiale ar trebui să fie, prin urmare, un motiv de îngrijorare: se estimează că modelele lingvistice mari moderne (LLM) halucinează undeva între 1% și 30% din timp. Acest lucru duce la sute de răspunsuri false generate zilnic, ceea ce înseamnă că întreprinderile care doresc să valorifice această tehnologie trebuie să fie extrem de selective atunci când aleg care instrumente să implementeze.

Să explorăm de ce halucinațiile inteligenței artificiale au loc, ce este în joc și cum putem identifica și corecta acestea.

Gunoi în, gunoi afară

Vă amintiți jocul “telefon” din copilărie? Cum fraza de start se deforma pe măsură ce trecea de la jucător la jucător, rezultând într-o afirmație complet diferită până când ajungea înapoi la început?

Modul în care inteligența artificială învață din intrările sale este similar. Răspunsurile generate de LLM sunt la fel de bune pe cât sunt informațiile pe care le primesc, ceea ce înseamnă că contextul incorect poate duce la generarea și diseminarea informațiilor false. Dacă un sistem de inteligență artificială este construit pe date inexacte, învechite sau biasate, atunci ieșirile sale vor reflecta acest lucru.

În acest fel, un LLM este la fel de bun pe cât sunt intrările sale, mai ales atunci când lipsește intervenția umană sau supravegherea. Pe măsură ce soluțiile autonome de inteligență artificială se multiplică, este crucial să oferim instrumentelor contextul de date corect pentru a evita halucinațiile. Avem nevoie de o pregătire riguroasă a acestor date și/sau de capacitatea de a ghida LLM-urile astfel încât să răspundă numai din contextul furnizat, și nu să extragă informații de pe internet.

De ce contează halucinațiile?

Pentru afacerile care se adresează clienților, acuratețea este totul. Dacă angajații se bazează pe inteligența artificială pentru sarcini precum sintetizarea datelor clienților sau răspunsurile la întrebările clienților, ei au nevoie să aibă încredere că răspunsurile generate de aceste instrumente sunt exacte.

Altfel, afacerile riscă să sufere prejudicii de imagine și loialitate a clienților. Dacă clienții primesc răspunsuri incomplete sau false de la un chatbot, sau dacă sunt lăsați să aștepte în timp ce angajații verifică ieșirile chatbot-ului, ei ar putea să-și ducă afacerile în altă parte. Oamenii nu ar trebui să se îngrijoreze cu privire la faptul că afacerile cu care interacționează le furnizează informații false – ei doresc suport rapid și de încredere, ceea ce înseamnă că obținerea acestor interacțiuni corect este de cea mai mare importanță.

Liderii de afaceri trebuie să-și facă temeinic datoria atunci când aleg instrumentul de inteligență artificială potrivit pentru angajații lor. Inteligența artificială ar trebui să elibereze timp și energie pentru personalul de a se concentra pe sarcini de valoare mai mare; investiția într-un chatbot care necesită supraveghere umană constantă înfrânge scopul adoptării. Dar sunt halucinațiile cu adevărat atât de proeminente sau termenul este pur și simplu suprautilizat pentru a identifica orice răspuns pe care îl considerăm incorect?

Combătând halucinațiile inteligenței artificiale

Luați în considerare: Teoria semnificației dinamice (DMT), conceptul că o înțelegere între două persoane – în acest caz, utilizatorul și inteligența artificială – este schimbată. Dar limitările limbajului și cunoașterii subiectelor cauzează o neconcordanță în interpretarea răspunsului.

În cazul răspunsurilor generate de inteligența artificială, este posibil ca algoritmii subiacenți să nu fie încă pe deplin echipați pentru a interpreta sau genera text într-un mod care se aliniază cu așteptările noastre ca oameni. Această discrepanță poate duce la răspunsuri care par exacte la suprafață, dar care, în cele din urmă, lipsesc de profunzimea sau nuanța necesare pentru o adevărată înțelegere.

În plus, majoritatea LLM-urilor generale extrag informații numai din conținutul disponibil public pe internet. Aplicațiile pentru întreprinderi ale inteligenței artificiale funcționează mai bine atunci când sunt informate de date și politici specifice unor industrii și afaceri individuale. Modelele pot fi, de asemenea, îmbunătățite cu feedback uman direct – în special soluții agențice care sunt proiectate pentru a răspunde la ton și sintaxă.

Asemenea instrumente ar trebui, de asemenea, testate cu strictețe înainte de a deveni accesibile clienților. Acesta este un aspect critic al prevenirii halucinațiilor inteligenței artificiale. Fluxul întreg ar trebui testat utilizând conversații bazate pe tururi cu LLM-ul jucând rolul unei persoane. Acest lucru permite afacerilor să presupună mai bine succesul general al conversațiilor cu un model de inteligență artificială înainte de a-l lansa în lume.

Este esențial atât pentru dezvoltatorii, cât și pentru utilizatorii tehnologiei de inteligență artificială să rămână conștienți de teoria semnificației dinamice în răspunsurile pe care le primesc, precum și și de dinamica limbajului utilizat în intrare. Amintiți-vă, contextul este cheia. Și, ca oameni, majoritatea contextului nostru este înțeles prin mijloace neverbale, fie prin limbajul corpului, tendințe sociale – chiar și tonul nostru. Ca oameni, avem potențialul de a halucina în răspuns la întrebări. Dar, în versiunea noastră curentă de inteligență artificială, înțelegerea noastră de la om la om nu este atât de ușor contextualizată, așa că trebuie să fim mai critici cu privire la contextul pe care îl furnizăm în scris.

Să spunem – nu toate modelele de inteligență artificială sunt create egale. Pe măsură ce tehnologia se dezvoltă pentru a finaliza sarcini din ce în ce mai complexe, este crucial pentru afacerile care intenționează să implementeze aceste tehnologii să identifice instrumente care vor îmbunătăți interacțiunile și experiențele clienților, în loc să le detrime.

Încărcătura nu este doar pe furnizorii de soluții pentru a se asigura că au făcut tot ce este în puterea lor pentru a minimiza șansa ca halucinațiile să apară. Cumpărătorii potențiali au, de asemenea, un rol de jucat. Prin prioritizarea soluțiilor care sunt riguros testate și antrenate și care pot învăța din date proprietare (în loc de orice și totul de pe internet), afacerile pot face cel mai bun lucru din investițiile lor în inteligență artificială pentru a-și pregăti angajații și clienții pentru succes.