Inteligența artificială devine mai inteligentă; coerența devine mai greu de obținut

Mi-am petrecut întreaga carieră încercând să înțeleg inteligența. Am studiat neuroștiințele pentru că mă interesa inteligența artificială și mi-am dat seama că un bun punct de plecare ar fi să învăț mai întâi cum funcționează creierul. Mai întâi inteligența, înaintea inteligenței „artificiale”. Această pregătire mi-a lăsat un obicei. Când apare o nouă capacitate sau tehnologie, prima mea întrebare este una practică. Ce poate face, de fapt, și pentru ce tipuri de probleme din lumea reală?

Ca om din domeniul inteligenței artificiale, rareori mă entuziasmează titlurile despre acest domeniu. Trec dincolo de zgomotul mediatic pentru a înțelege nu doar progresele, ci și limitele noilor capacități.

De la instrumente banale la fiabilitate cu miză

În 2020, când discuțiile despre siguranța inteligenței artificiale erau în toi, alimentate de multă vâlvă, am dat un sfat simplu. Tratați inteligența artificială ca pe un instrument — unul puternic, dar tot un instrument. Rămâneți la cazurile de utilizare banale. Lucrați la nivelul sarcinilor, acolo unde tehnologia era suficient de fiabilă ca să fie de ajutor. Scenariul meu optimist era unul în care aveam instrumente banale, dar utile.

Când, câțiva ani mai târziu, a început să prindă contur valul sistemelor agentice, am privit lucrurile prin aceeași lentilă și nu m-am lăsat convins. Un sistem agentic nu poate fi mai puternic decât sarcinile pe care se bazează, iar eu încă nu văzusem fiabilitatea la nivelul sarcinilor de care aceste sisteme aveau nevoie pentru a fi eficiente.

Totuși, vâlva creștea. Când am participat la RSA, la începutul anului trecut, prăpastia dintre vorbe și substanță era încă greu de ignorat. Nici măcar nu exista o înțelegere comună a sensului termenului „agentic”; fiecare avea propria definiție și perspectivă. Și mă îngrijora o problemă structurală. Să luăm zece agenți, fiecare având o acuratețe de aproximativ 95%. Să-i legăm în lanț, astfel încât rezultatul unui agent să devină intrarea următorului. La capătul lanțului, acuratețea scade la aproximativ 60%. Fiabilitatea nu rezistă când sistemele sunt înlănțuite. În acel moment, începusem să mă gândesc la sisteme formate din agenți, deși încă mă preocupa dacă puteau fi considerați suficient de fiabili pentru a funcționa și a produce o schimbare semnificativă.

Apoi, progresele rapide înregistrate de agenții de programare m-au făcut să-mi schimb părerea.

La câteva luni după articolul meu pe această temă, ritmul incredibil al progresului mi-a clarificat un lucru. Era doar o chestiune de timp până când fiabilitatea avea să fie atinsă pentru mai multe sarcini din lumea reală. Modelele mai bune, însoțite de cadre de inginerie mai bune, aveau să elimine decalajul care mă îngrijorase. Limita de care mă temusem avea să fie depășită.

Atunci a devenit clară adevărata problemă, care nu era cea pe care o urmărisem. Odată ce poți avea încredere în agenții individuali, nu te oprești după ce îl implementezi pe primul. Implementezi mulți. Flote întregi, în toate funcțiile organizației, fiecare capabil, fiecare îndeplinindu-și sarcina. Și a apărut o întrebare nouă, fără legătură cu fiabilitatea. Dacă fiecare agent din flotă face ceea ce a fost creat să facă, contribuie oare flota, în ansamblu, la ceea ce și-a propus organizația?

Nevoia de propriocepție organizațională

Un corp cu membre capabile nu se poate mișca bine fără propriocepție — percepția interioară constantă a poziției fiecărei părți a corpului și a ceea ce face aceasta. Cerebelul face mai mult decât să reacționeze la aceste informații. El face predicții. Când creierul transmite comanda de mișcare, anticipează senzația pe care ar trebui să o producă acea mișcare, apoi compară această anticipare cu ceea ce se întâmplă în realitate. Diferența dintre cele două este semnalul care corectează mișcarea următoare. Mișcările abile se bazează pe un ciclu de anticipare a rezultatului și corectare a diferenței.

O organizație care operează flote de agenți are nevoie de aceeași percepție a propriei stări. Trebuie să știe în permanență unde se află sistemele sale și cât de mult s-au îndepărtat de starea dorită. Fără această conștientizare internă, componentele capabile nu se pot combina într-o acțiune coordonată. Nu este un mecanism de percepție pe care îl adaugi ulterior unui corp pentru a-l face mai sigur. Este necesar pentru ca organismul să se poată mișca.

Există un caz bine studiat al unui bărbat pe nume Ian Waterman, care și-a pierdut această percepție în cea mai mare parte a corpului. A învățat din nou să se miște, dar numai privindu-se și dirijându-și cu ochii fiecare pas și fiecare întindere a brațului. Metoda funcționează. Este însă și epuizantă și fragilă. Dacă se sting luminile, nu mai poate coordona deloc mișcările. O organizație care își guvernează agenții prin audituri manuale și evaluări periodice se află în aceeași situație. Compensează printr-un efort constant pentru o percepție pe care nu și-a dezvoltat-o niciodată, iar această compensare costă mai mult decât ceea ce înlocuiește. Întregul sistem se prăbușește de îndată ce se schimbă condițiile.

Merită să vorbim și despre un alt eșec, și mai neobișnuit, descris într-o carte fascinantă a neurocercetătorului V S Ramachandran. Când un membru este amputat, creierul nu tace. Continuă să genereze semnale pentru membrul lipsă, iar persoana le simte cu intensitate. Guvernanța poate eșua în același fel. Dacă, în urma unei restructurări sau a neglijării, elimini judecata autentică dintr-o funcție de supraveghere, funcția nu încetează să se manifeste. Evaluările continuă să fie efectuate, iar indicatorii continuă să fie calculați. Organizația continuă să aibă impresia că este supravegheată, deși judecata care susținea supravegherea a fost golită de conținut. Aici revin la sfatul meu din 2020, despre transparență. Nu există supraveghere fără transparență și nu există transparență într-un sistem care doar creează aparența că este monitorizat.

Coerența, resursa rară

Inteligența devine tot mai ieftină. În curând, va fi prezentă în fiecare flux de lucru și în fiecare instrument. În această lume, resursa rară este coerența: legătura vie dintre ceea ce face fiecare sistem pe cont propriu și ceea ce încearcă întreprinderea să realizeze. Coerența este țesătura de legătură care menține inteligența distribuită aliniată în jurul unui singur scop.

Am petrecut ani studiind cum își face creierul numeroasele părți să funcționeze ca un tot unitar. Era agenților autonomi îi pune întreprinderii aceeași întrebare. Scopul nu s-a schimbat din 2020. Plictisitor, dar util, și acum. Acum, lucrul plictisitor și util pe care trebuie să-l construim este chiar coerența.