Dacă angajatul tău s-ar fi comportat ca AI-ul, deja l-ai fi concediat

Imaginează-ți că tocmai ai angajat pe cineva nou și, în majoritatea zilelor, este eficient, bine informat, elocvent și încrezător. Este tot ce sperai să fie, demonstrând multe dintre calitățile unui angajat de excepție.

Acum imaginează-ți că, din când în când, când se confruntă cu o întrebare la care nu știe răspunsul, inventează ceva. Este fluent, convingător, așa că la început îl iei la valoarea nominală. Dar atunci când are consecințe pentru afacere, revii la acel angajat, îl provoci – și nu poate să-și explice procesul de gândire sau să-și arate modul de lucru. S-ar putea să îi explici că greșește, iar el răspunde cu insistență în contrariu și cu noi fabricări pentru a susține afirmația. După a doua sau a treia dată când se întâmplă asta, ai fi probabil să-l concediezi sau, cel puțin, să-i dai o avertizare? Răspunsul pentru majoritatea angajatorilor este aproape cu siguranță da.

Mi se pare uluitor că firmele încredințează acum fluxuri de lucru critice și luarea deciziilor unui „angajat” cunoscut pentru acest comportament exact. Singurul motiv pentru care nu este controlat este că acest „angajat” este software, nu o persoană.

De ce AI-ul nu eșuează în același mod ca oamenii

Există o presupunere comună, incorectă, în rândul firmelor care implementează AI, aceea că, dacă tehnologia are un nivel de eroare, este aproximativ aceeași problemă ca eroarea umană și poate fi gestionată în același mod. Însă verificările, reviziile și escaladările nu funcționează întotdeauna cu modelele mari de limbaj (LLM-uri). Acestea sunt concepute să sune ca oamenii, dar dacă te uiți la ce se află sub capotă, vei vedea că nu operează deloc ca noi.

Dacă un angajat de top face o greșeală, am presupune că eroarea este sinceră – a făcut tot posibilul și a greșit. Se întâmplă. Dacă inventează deliberat un răspuns pentru a ascunde că nu știe ceva și face acest lucru în mod repetat, l-am considera o conduită necorespunzătoare. Managerii știu unde să-și concentreze supravegherea, deoarece dificultatea și marjele de eroare coincid. Pot să ceară angajatului să-și explice raționamentul și să-l interogheze în legătură cu acesta. Angajatul, de obicei, știe când depășește limitele competenței sale și spune acest lucru. Iar după o greșeală, învață, astfel încât aceeași eroare să nu se repete în mod constant.

Sistemele AI inversează fiecare dintre aceste presupuneri. Răspunsul lor implicit la eșec este o invenție fluentă și încrezătoare. Vor produce un răspuns plauzibil care este pur și simplu fals, ceea ce reprezintă comportamentul exact care ar încheia o carieră umană. LLM-urile sunt concepute să genereze cea mai probabilă continuare statistică a unui fragment de text și, când nu cunosc răspunsul, produc frecvent ceva ce pare că ar putea fi corect. Cercetătorii de la OpenAI au recunoscut că un anumit nivel de eroare factuală este o inevitabilitate statistică a modului în care funcționează aceste modele și că antrenamentul recompensează o presupunere încrezătoare în detrimentul unei admiteri oneste a incertitudinii.

Unde intervin abordările neurosimbolice

Acesta este exact scopul pentru care abordările neurosimbolice sunt concepute să rezolve. Ele combină rețelele neuronale, care sunt excelente la înțelegerea limbajului și datelor haotice din lumea reală, cu raționamentul determinist, bazat pe reguli. Aceasta înseamnă că concluziile unui sistem derivă din logică explicită care poate fi inspectată, în loc să apară dintr-un proces pe care nimeni nu îl poate vedea în interior.

Fără acest strat suplimentar de logică pe care tehnologia neurosimbolică îl furnizează, erorile AI-ului nu se corelează cu dificultatea sarcinii așa cum se întâmplă la o persoană – sunt imprevizibile. Ele pot apărea la sarcini triviale în timp ce cele dificile trec fără probleme, ceea ce face dificilă identificarea zonei în care să se concentreze supravegherea umană. Explicațiile lor, când sunt oferite, sunt generate retroactiv, în loc să ofere o relatare adevărată a modului în care au ajuns la o concluzie. Aceeași greșeală se poate repeta indefinit, deoarece nu există nimeni în interiorul sistemului care să învețe din ea sau să fie tras la răspundere.

Încredere fără înțelegere

Cercetătorii au documentat că, atunci când oamenii sunt noi față de un sistem, au tendința de a-l abandona după o singură eroare vizibilă; dar când este unul familiar, trec la extrema opusă – acceptând ieșirile sale pur și simplu pentru că s-au obișnuit cu ele, nu pentru că acele ieșiri au devenit mai fiabile. Ce se vede rar este nivelul potrivit de încredere, deoarece acesta depinde de înțelegerea de către oameni când un sistem AI este probabil să greșească și de capacitatea de a recunoaște când se întâmplă acest lucru.

Acest lucru nu înseamnă că AI-ul nu ar trebui să fie de încredere pentru sarcini importante. Înseamnă că am fost dispuși să-i acordăm un tip de încredere pe care nu l-am oferi unei persoane, parțial pentru că nu există un individ evident care să fie tras la răspundere când eșuează.

Dacă AI-ul urmează să preia munca bazată pe judecată în modul în care ar face un coleg valoros, trebuie să îndeplinească aceleași standarde de bază. Răspunsurile trebuie să fie verificabile, cu raționament vizibil, și să accepte faptul că uneori, cel mai bun lucru pe care îl poate face este să spună „Nu știu”.