Cum explică AI-ul construiește încredere și responsabilitate

Companiile au sărit deja cu capul înainte în adoptarea inteligenței artificiale, luptând să implementeze chatboti, generatori de conținut și instrumente de sprijin pentru decizii în întreaga lor operațiune. Conform McKinsey, 78% dintre companii folosesc inteligență artificială în cel puțin o funcție de business.

Frenzia de implementare este înțeleasă — toată lumea vede valoarea potențială. Dar în această goană, multe organizații trec cu vederea faptul că toate tehnologiile bazate pe rețele neuronale, inclusiv fiecare sistem LLM și generativ AI folosit astăzi și în viitorul previzibil, au o lacună semnificativă: Sunt imprevizibile și în cele din urmă incontrolabile.

Unii au învățat, existând consecințe reale ca urmare. La un dealer Chevrolet care a implementat un chatbot pe site-ul său, un client l-a convins pe chatbotul alimentat de ChatGPT să-i vândă un Chevrolet Tahoe de 58.195 de dolari pentru doar 1 dolar. Un alt client a determinat același chatbot să scrie un script Python pentru ecuații complexe de dinamică a fluidelor, ceea ce a și făcut. Dealerul a dezactivat rapid boturile după ce aceste incidente au devenit virale.

Anul trecut, Air Canada a pierdut în instanță atunci când a susținut că chatbotul său, care a oferit unui pasager informații inexacte despre o reducere pentru deces, “este o entitate juridică separată, responsabilă pentru propriile acțiuni”.

Această imprevizibilitate provine din arhitectura fundamentală a LLM-urilor. Sunt atât de mari și complexe încât este imposibil să înțelegem cum ajung la anumite răspunsuri sau să prezicem ce vor genera până nu produc o ieșire. Cele mai multe organizații răspund la această problemă de fiabilitate fără a o recunoaște pe deplin.

Soluția de bun simț este să se verifice rezultatele inteligenței artificiale manual, ceea ce funcționează, dar limitează drastic potențialul tehnologiei. Când inteligența artificială este relegată la a fi un asistent personal — redactând text, luând minute de ședință, rezumând documente și ajutând la codare — oferă câștiguri modeste de productivitate. Nu suficient pentru a revoluționa economia.

Beneficiile reale ale inteligenței artificiale vor apărea atunci când vom înceta să o folosim pentru a asista la locuri de muncă existente și vom restructura în schimb întregi procese, sisteme și companii pentru a utiliza inteligența artificială fără implicarea umană la fiecare pas. Luați în considerare procesarea creditelor: dacă o bancă oferă ofițerilor de credit asistenți inteligenți pentru a rezuma cererile, aceștia ar putea lucra cu 20-30% mai rapid. Dar implementarea inteligenței artificiale pentru a gestiona întregul proces de decizie (cu precauții adecvate) ar putea reduce costurile cu peste 90% și ar elimina aproape tot timpul de procesare. Acesta este diferența dintre îmbunătățirea incrementală și transformare.

Drumul către implementarea fiabilă a inteligenței artificiale

Exploaterea potențialului deplin al inteligenței artificiale fără a cădea în imprevizibilitatea acesteia necesită o combinație sofisticată de abordări tehnice și gândire strategică. În timp ce mai multe metode actuale oferă soluții parțiale, fiecare are limitări semnificative.

Unele organizații încearcă să atenueze problemele de fiabilitate prin împingerea sistemului — îndreptând subtil comportamentul inteligenței artificiale în direcții dorite, astfel încât să răspundă în moduri specifice la anumite intrări. Cercetătorii Anthropic au demonstrat fragilitatea acestei abordări, identificând o “caracteristică Golden Gate Bridge” în rețeaua neurală a lui Claude și, prin amplificarea artificială a acesteia, au determinat ca Claude să dezvolte o criză de identitate. Atunci când a fost întrebat despre forma sa fizică, în loc să recunoască că nu are una, Claude a afirmat că este podul Golden Gate însuși. Acest experiment a arătat cât de ușor poate fi alterat funcționarea de bază a unui model și că fiecare împingere reprezintă un compromis, posibil îmbunătățind un aspect al performanței, dar degradând altele.

O altă abordare este să ai inteligență artificială care monitorizează alta. În timp ce această abordare stratificată poate prinde unele erori, introduce complexitate suplimentară și tot nu atinge fiabilitatea cuprinzătoare. Barierelor hardcodate sunt o intervenție mai directă, cum ar fi blocarea răspunsurilor care conțin anumite cuvinte cheie sau șabloane, cum ar fi ingredientele precursoare pentru arme. În timp ce sunt eficiente împotriva problemelor cunoscute, aceste bariere nu pot anticipa ieșiri problematice noi care apar din aceste sisteme complexe.

O abordare mai eficientă este construirea unor procese centrate pe inteligență artificială care pot funcționa autonom, cu supravegherea umană poziționată strategic pentru a prinde problemele de fiabilitate înainte de a cauza probleme din lumea reală. Nu ai vrea ca inteligența artificială să aprobe sau să refuze direct cererile de credit, dar inteligența artificială ar putea efectua o evaluare inițială pentru operatorii umani să o revizuiască. Acest lucru poate funcționa, dar se bazează pe vigilența umană pentru a prinde greșelile inteligenței artificiale și subminează potențialele câștiguri de eficiență din utilizarea inteligenței artificiale.

Construirea pentru viitor

Aceste soluții parțiale indică spre o abordare mai cuprinzătoare. Organizațiile care reevaluează fundamental modul în care se desfășoară munca, în loc să îmbunătățească doar procesele existente cu asistență de inteligență artificială, vor obține cel mai mare avantaj. Dar inteligența artificială nu ar trebui să fie niciodată ultimul pas într-un proces sau decizie cu miză ridicată, așa că ce este cel mai bun drum înainte?

Mai întâi, inteligența artificială construiește un proces repetabil care va livra în mod transparent rezultate consistente. În al doilea rând, oamenii examinează procesul pentru a se asigura că înțeleg cum funcționează și că intrările sunt adecvate. În final, procesul rulează autonom — fără a folosi inteligență artificială — cu revizuiri periodice ale rezultatelor de către oameni.

Luați în considerare industria asigurărilor. Abordarea convențională ar putea adăuga asistenți inteligenți pentru a ajuta procesorii de cereri să lucreze mai eficient. O abordare mai revoluționară ar utiliza inteligența artificială pentru a dezvolta noi instrumente — cum ar fi viziunea computerizată care analizează fotografii cu daune sau modele îmbunătățite de detectare a fraudei care identifică șabloane suspecte — și apoi să combine aceste instrumente în sisteme automate guvernate de reguli clare și inteligibile. Oamenii ar proiecta și monitoriza aceste sisteme, în loc să proceseze individual cererile.

Această abordare menține supravegherea umană la joncțiunea critică unde contează cel mai mult: proiectarea și validarea sistemului în sine. Permite câștiguri exponențiale de eficiență, eliminând în același timp riscul ca imprevizibilitatea inteligenței artificiale să ducă la rezultate dăunătoare în cazuri individuale.

O inteligență artificială ar putea identifica potențiali indicatori ai capacității de rambursare a creditelor în datele tranzacționale, de exemplu. Experții umani ar putea evalua apoi acești indicatori pentru echitate și construi modele explicite și inteligibile pentru a confirma puterea lor predictivă.

Această abordare a inteligenței artificiale explicabile va crea o diviziune mai clară între organizațiile care utilizează inteligența artificială superficial și cele care transformă operațiunile lor în jurul acesteia. Ultimii vor lua din ce în ce mai mult avânt în industriile lor, fiind capabili să ofere produse și servicii la puncte de preț pe care concurenții lor nu le pot egala.

Spre deosebire de inteligența artificială “cutie neagră”, sistemele de inteligență artificială explicabilă asigură menținerea supravegherii umane semnificative asupra aplicării tehnologiei, creând un viitor în care inteligența artificială sporește potențialul uman, în loc să înlocuiască pur și simplu munca umană.