Dacă AI-ul dvs. halucinează, nu-l învinovățiți pe AI

Halucinațiile „AI” – acele răspunsuri false care sună convingător – atrag multă atenție din partea mass-mediei, cum ar fi recentul articol din New York Times, AI-ul devine mai puternic, dar halucinațiile sale devin mai grave. Halucinațiile sunt un pericol real atunci când aveți de-a face cu un chatbot pentru consumatori. În contextul aplicațiilor comerciale ale inteligenței artificiale, este o preocupare și mai gravă. Din fericire, ca lider tehnologic, am mai mult control asupra acestui aspect. Pot să mă asigur că agentul are datele corecte pentru a oferi un răspuns semnificativ.

Deoarece acesta este, de fapt, problema reală. În afaceri, nu există nicio scuză pentru halucinațiile AI. Încetați să învinovățiți inteligența artificială. Învinovățiți-vă pe voi înșivă pentru că nu folosiți inteligența artificială în mod corespunzător.

Când uneltele de inteligență artificială generativă halucinează, ele fac ceea ce sunt proiectate să facă – oferă cel mai bun răspuns pe care îl pot, bazat pe datele pe care le au la dispoziție. Când inventează lucruri, producând un răspuns care nu are legătură cu realitatea, acest lucru se întâmplă pentru că le lipsesc datele relevante, nu le pot găsi sau nu înțeleg întrebarea. Da, noile modele, cum ar fi o3 și o4-mini de la OpenAI, halucinează mai mult, acționând mai „creativ” atunci când nu au un răspuns bun la întrebarea care le-a fost pusă. Da, uneltele mai puternice pot halucina mai mult – dar pot produce și rezultate mai puternice și mai valoroase, dacă le punem în condiții de a reuși.

Dacă nu doriți ca inteligența dvs. artificială să halucineze, nu o lăsați să moară de foame. Alimentați inteligența artificială cu cele mai bune și mai relevante date pentru problema pe care doriți să o rezolve, și nu va fi tentată să se abată de la drum.

Chiar și atunci, atunci când lucrați cu orice instrument de inteligență artificială, vă recomand să păstrați abilitățile de gândire critică intacte. Rezultatele pe care le oferă agenții de inteligență artificială pot fi productive și plăcute, dar scopul nu este să deconectați creierul și să lăsați software-ul să facă toată gândirea pentru dvs. Continuați să puneți întrebări. Când un agent de inteligență artificială vă oferă un răspuns, puneți întrebări despre acel răspuns pentru a vă asigura că are sens și este susținut de date. Dacă da, acesta ar trebui să fie un semn încurajator că merită să continuați să puneți întrebări suplimentare.

Cu cât puneți mai multe întrebări, cu atât veți obține insight-uri mai bune.

De ce apar halucinațiile

Nu este nicio mister. Inteligența artificială nu încearcă să vă mintă. Fiecare model de limbaj mare (LLM) de inteligență artificială este, în esență, o previziune a următorului cuvânt sau număr, pe baza probabilității.

La un nivel general, ceea ce se întâmplă aici este că LLM-urile construiesc propoziții și paragrafe, un cuvânt după altul, previzionând următorul cuvânt care ar trebui să apară în propoziție, pe baza a miliarde de alte exemple din datele de antrenament. Strămoșii LLM-urilor (în afara lui Clippy) au fost prompturi de completare automată pentru mesaje de text și cod de calculator, unelte de traducere lingvistică automată și alte sisteme lingvistice probabilistice. Cu o putere de calcul mai mare și antrenate pe volume de date la scară de internet, aceste sisteme au devenit „deștepte” suficient de mult pentru a putea purta o conversație completă prin chat, așa cum a învățat lumea cu introducerea ChatGPT.

Cei care critică inteligența artificială subliniază că acest lucru nu este același lucru cu o „inteligență” reală, ci doar un software care poate distila și regurgita inteligența umană care i-a fost furnizată. Îi cereți să rezume datele într-un raport scris, și el imită modul în care alți scriitori au rezumat date asemănătoare.

Acest lucru mi se pare a fi un argument academic, atâta timp cât datele sunt corecte și analiza este utilă.

Ce se întâmplă dacă inteligența artificială nu are datele? Completează spațiile goale. Uneori este amuzant. Uneori este un dezastru total.

Când construiți agenți de inteligență artificială, acesta este un risc de 10 ori mai mare. Agenții sunt supuși să ofere insight-uri acționabile, dar iau mai multe decizii pe parcurs. Ei execută sarcini multietapă, unde rezultatul etapei 1 informează etapele 2, 3, 4, 5, … 10 … 20. Dacă rezultatele etapei 1 sunt incorecte, eroarea va fi amplificată, făcând ieșirea la etapa 20 și mai rea. În special, deoarece agenții pot lua decizii și pot sări peste etape.

Dacă se face corect, agenții realizează mai mult pentru afacerile care îi folosesc. Cu toate acestea, ca manageri de produs de inteligență artificială, trebuie să recunoaștem riscul mai mare care vine odată cu recompensa mai mare.

Care este ceea ce a făcut echipa noastră. Am văzut riscul și l-am abordat. Nu am construit doar un robot sofisticat; ne-am asigurat că rulează pe datele corecte. Iată ce credem că am făcut bine:

• Construiți agentul pentru a pune întrebările corecte și verificați dacă are datele corecte. Asigurați-vă că procesul inițial de introducere a datelor a agentului este, de fapt, mai determinist, mai puțin „creativ”. Doriți ca agentul să spună atunci când nu are datele corecte și să nu continue la următoarea etapă, în loc să inventeze datele.
• Structurați un plan de joc pentru agentul dvs. – asigurați-vă că nu inventează un nou plan de fiecare dată, ci are o abordare semi-structurată. Structura și contextul sunt extrem de importante în etapele de colectare și analiză a datelor. Puteți lăsa agentul să se relaxeze și să acționeze mai „creativ” atunci când are faptele și este gata să scrie rezumatul, dar mai întâi obțineți faptele corecte.
• Construiți un instrument de calitate pentru a extrage datele. Acesta ar trebui să fie mai mult decât doar un apel API. Luați timpul necesar pentru a scrie codul (oamenii încă fac asta) care face cantitatea și varietatea de date care vor fi colectate, integrând verificări de calitate în proces.
• Faceți agentul să-și arate munca. Agentul ar trebui să citeze sursele și să lege la locul unde utilizatorul poate verifica datele, de la sursa originală, și să le exploreze mai departe. Nu este permisă nicio înșelăciune!
• Baraje de protecție: Gândiți-vă la ce ar putea merge prost și construiți protecții împotriva erorilor pe care nu le puteți permite în niciun caz. În cazul nostru, acest lucru înseamnă că atunci când agentul însărcinat cu analiza unei piețe nu are datele – prin care înțelegem datele noastre Similarweb, nu vreo sursă de date aleatorie extrasă de pe web – asigurarea că nu inventează nimic este o barajă esențială. Mai bine pentru agent să nu poată răspunde decât să ofere un răspuns fals sau înșelător.

Am integrat aceste principii în lansarea noastră recentă a noilor noștri trei agenți, cu mai multe care urmează. De exemplu, agentul nostru de pregătire pentru întâlniri AI pentru vânzători nu cere doar numele companiei țintă, ci și detalii despre scopul întâlnirii și cu cine este, pregătindu-l să ofere un răspuns mai bun. Nu trebuie să ghicească, deoarece folosește o mulțime de date despre companii, date digitale și profiluri executive pentru a-și informa recomandările.

Sunt agenții noștri perfecti? Nu. Nimeni nu creează încă inteligență artificială perfectă, nici măcar cele mai mari companii din lume. Dar a aborda problema este mult mai bine decât a o ignora.

Doriți să aveți mai puține halucinații? Ofereți inteligenței dvs. artificiale o cantitate bună de date de calitate.

Dacă halucinează, poate că nu este inteligența artificială care are nevoie de reparare. Poate că abordarea dvs. de a profita de aceste capacități puternice noi, fără a pune timpul și efortul necesare pentru a le face corect, este cea care are nevoie de corecție.

em este mult mai bine decât a o ignora. Vrei să ai mai puține halucinații? Dă-i inteligenței tale artificiale o bucată frumoasă de date de calitate. Dacă halucinează, poate că nu inteligența artificială are nevoie de reparații. Poate că abordarea ta de a profita de aceste capacități puternice noi, fără a pune timpul și efortul necesare pentru a le face corect, este cea care are nevoie de corecție.