Lideri de opinie
Cum am transferat cunoștințele mele în sisteme de inteligență artificială care pot lua decizii ca experții umani
Adaugă Unite.AI la sursele tale preferate pe Google
Când am părăsit Microsoft și am continuat să lucrez cu întreprinderi pe implementările lor de inteligență artificială, am văzut în mod constant că majoritatea sistemelor de inteligență artificială despre care oamenii erau entuziasmați nu puteau să ia decizii cu adevărată judecată umană. Desigur, puteau să scrie, să rezume și să producă texte fluent și remarcabil care sunau ca o decizie, dar atunci când le introduceți într-un mediu operațional real, unde există compromisuri, incertitudine, instrucțiuni incomplete și consecințe reale, ele se confruntă rapid cu dificultăți. Acest lucru se potrivește cu datele de la Proiectul NANDA al MIT, care arată că, deși 60% din organizații au evaluat instrumente de inteligență artificială, doar 20% au ajuns la stadiul de pilot și doar 5% au ajuns la producție. Cu alte cuvinte, industria se confruntă cu dificultăți în a construi sisteme care pot funcționa cu adevărat în fluxurile de lucru reale.
În mediile întreprinderilor, în special în domenii precum lanțul de aprovizionare, producție și operațiuni, obținerea unui răspuns nu este greu; ceea ce este greu este să știi pe care răspuns să îl încrezi, care variabile sunt cele mai importante și ce este probabil să se defecteze mai jos dacă greșiți. În opinia mea, aceasta este atât o problemă de expertiză, cât și una de judecată.
Pentru a fi clar, inteligența artificială a făcut progrese extraordinare în producerea de ieșiri mai bune. Dar o ieșire mai bună nu este același lucru cu o decizie mai bună. Acestea sunt două repere distincte, și cred că industria a petrecut mult timp tratându-le ca fiind interschimbabile.
Lipsa de expertiză și judecată este motivul pentru care m-am interesat de a construi inteligență artificială pe care experții umani o pot învăța să ia decizii complexe așa cum o fac ei. Inteligența artificială nu ar trebui să fie doar despre automatizarea sarcinilor, ci și despre transferul eficient și sigur al judecății umane în sisteme de inteligență artificială care pot funcționa.
Modelele de limbaj mare (LLM) vorbesc ca decidenții, dar nu sunt
Nu există nicio îndoială că LLM-urile sunt utile, dar ele nu sunt, prin definiție, sisteme de luare a deciziilor. Ele sunt sisteme de predicție înfășurate în limbaj. Și limbajul este convingător, ceea ce face parte din problema. Dacă un sistem poate să se explice pe sine într-un mod fluent, noi tindem să supraestimăm ceea ce el înțelege. Îi pui o întrebare de afaceri, el îți dă un răspuns structurat cu compromisuri, rezerve și un rezumat la sfârșit, făcându-l să pară mai deștept decât este. A suna coerent și a fi competent din punct de vedere operațional nu sunt același lucru, și aici se află o parte din motivele pentru care multe organizații se confruntă cu dificultăți în a merge dincolo de experimentare. Gartner a descoperit că cel puțin 50% din proiectele de inteligență artificială generativă sunt abandonate după demonstrațiile de concept, mult înainte de a avea un impact operațional real, adesea din cauza lipsei de valoare clară și a controlului riscurilor.
Informația nu este același lucru cu expertiza
Una dintre cele mai ușoare capcane în care putem cădea cu inteligența artificială este aceea de a presupune că, dacă un sistem are suficientă informație, ar trebui să poată funcționa ca un expert. Sună rezonabil, dar atunci când ne gândim la viața noastră de zi cu zi, creșterea informației noastre despre ceva nu ne face automat experți. Puteți citi toate manualele de aviație și totuși nu fiți gata să aterizați un avion. Puteți memora toate cele mai bune practici din lanțul de aprovizionare și totuși înghețați atunci când trei lucruri merg prost simultan.
Și aș putea continua, dar punctul este că informația nu se traduce în capacitate. Capacitatea vine din experiență, în special din expunerea repetată la situații complexe în care răspunsul nu este evident.
În fiecare zi, văd că majoritatea sistemelor de inteligență artificială de astăzi sunt antrenate pe exemple statice. Acest lucru este util pentru a face predicții, dar aceasta este doar o mică parte a procesului de luare a deciziilor. Întreprinderile nu lipsesc în date, ci au nevoie de medii structurate pentru practică, ceea ce înseamnă oferirea sistemelor unor medii în care pot:
- Întâlni scenarii realiste
- Lua decizii
- Vede ce se întâmplă
- Primească feedback
- Se îmbunătățească în timp
Inteligența artificială poate fi antrenată folosind algoritmi predictivi, dar această abordare are limitări. Ce este necesar în continuare este inteligența artificială care poate fi antrenată într-un mediu simulat cu supraveghere umană. Eu numesc acest lucru predare mașinilor, o metodologie care descompune decizii complexe în scenarii și abilități, oferind o ghidare pentru experții umani să predea inteligența artificială prin simulare. Rezultatul feedback-ului și al încercărilor și erorilor permite în cele din urmă agenților să învețe și să acționeze cu adevărată autonomie, direct de la oamenii care au construit aceste procese.
Opriți-vă să tratați inteligența artificială ca pe un monolit
O altă greșeală pe care o văd des este presupunerea că un singur model mare ar trebui să facă totul. Nicio echipă de baschet nu este formată dintr-o singură persoană. Nicio fabrică nu este condusă de un singur individ. Sistemele complexe funcționează pentru că diferitele componente fac diferite sarcini, și există o structură care le ține împreună.
Inteligența artificială ar trebui să fie construită în același mod. Nu cred că viitorul luării deciziilor în întreprinderi este un singur model uriaș așezat în mijlocul companiei, pretinzând a fi universal competent. Este mult mai probabil să arate ca echipe de agenți specializați.
Un agent ar putea fi expert în recuperarea datelor. Altul este mai bun la evaluarea scenariilor. Altul se ocupă de planificare. Unul verifică conformitatea sau prinde contradicții. Altul acționează mai mult ca un supraveghetor, decidând când să escaladeze sau când încrederea este prea scăzută pentru a continua. Arhitectura bazată pe echipe are mult mai mult sens pentru mine, deoarece se potrivește cu modul în care funcționează organizațiile reale și se aliniază cu tendințele pieței mai largi. Descoperirile McKinsey susțin că organizațiile obțin cea mai mare valoare din inteligența artificială prin redesenarea fluxurilor de lucru și structurilor operaționale în jurul ei.
Nu toate deciziile sunt luate în același mod, și prea des presupunem că același model, aceleași date și același tip de raționament pot gestiona toate.
Cele patru moduri în care deciziile se iau de fapt
În experiența mea, majoritatea deciziilor tind să cadă în câteva categorii:
- Sisteme de control (reguli și formule): Deciziile sunt luate prin aplicarea unor ecuații predefinite sau reguli la intrări cunoscute. Dacă X se întâmplă, face Y.
- Căutare și optimizare: Deciziile sunt luate prin evaluarea mai multor opțiuni și selectarea celei mai bune pe baza unui obiectiv definit.
- Învățare prin întărire (încercare și eroare): Deciziile sunt învățate în timp prin luarea de acțiuni, observarea rezultatelor și ajustarea în funcție de recompensă sau penalizare.
- Practică și experiență (învățare în stil uman): Deciziile sunt modelate prin expunerea repetată, feedback-ul ghidat și judecata acumulată în scenarii reale.
Majoritatea sistemelor de inteligență artificială din întreprinderi funcționează bine în primele două categorii. Ultimele două categorii sunt mai provocatoare pentru inteligența artificială, deoarece acolo trăiește judecata umană.
Autonomia fără structură este risc
Oricând oamenii vorbesc despre inteligență artificială autonomă, conversația tinde să se împartă în două extreme. O parte crede că sistemele sunt practic magice și gata să ruleze totul. Cealaltă parte acționează ca și cum nu ar trebui să fie niciodată încredințate cu ceva semnificativ.
Nu cred că niciuna dintre aceste perspective este utilă. Ar trebui să ne concentrăm pe autonomie în cadrul structurii, deoarece autonomia fără supraveghere, logică de escaladare, limite sau răspundere este principala sursă de risc. Problemele de risc sunt vizibile și în conversațiile modelate de eforturi precum Cadrul de gestionare a riscurilor de inteligență artificială al Institutului Național de Standarde și Tehnologie, care reflectă modul în care organizațiile iau în serios întrebările privind supravegherea, răspunderea și încrederea operațională.
Viitorul inteligenței artificiale în întreprinderi se află în echipe de agenți. Organizațiile care obțin cea mai mare valoare din inteligența artificială nu vor fi cele care automatizează cele mai multe cuvinte. Sunt cele care reușesc să transfere expertiza reală în sisteme care pot funcționa atunci când mediul devine haotic. Acesta, în opinia mea, este diferența dintre inteligența artificială care pare impresionantă și inteligența artificială care devine cu adevărat utilă, producând un randament real.
