Când agenții AI urmează mulțimea: Riscul ascuns în consensul multi-agent

O cameră plină de agenți AI de acord poate părea liniștitoare. Unul propune un răspuns, altul îl verifică, iar câțiva alții susțin concluzia. Dar câți dintre acei agenți au verificat cu adevărat dovezile de bază? Dacă fiecare a absorbit judecata agentului anterior, un verdict unanim poate ascunde o singură greșeală.

Cercetări noi, evidențiate de University of Chicago Harris School of Public Policy, examinează această problemă. În experimentele deliberat adverse descrise în anunțul său, agenții ulteriori au urmat o concluzie greșită timpurie chiar și atunci când informațiile lor indicau răspunsul corect. Anunțul subliniază, de asemenea, că acestea sunt rezultate timpurii de teste de stres, nu dovezi că agenții autonomi se comportă în mod obișnuit astfel.

Pentru organizațiile care construiesc fluxuri de lucru multi-agent, întrebarea importantă este cum să se distingă verificarea independentă de un ecou. Mai jos, examinăm experimentul, îl conectăm la cercetarea consolidată în învățarea socială și dezvoltăm implicații practice pentru proiectarea sistemului. Propunerile inginerești și ilustrațiile numerice reprezintă analiza noastră, nu rezultate experimentale suplimentare.

Ce au testat cercetătorii

Andy Hall, Dan Thompson, Alexander Fouirnaies și Sandy Handan-Nader au publicat Delirii Multi-Agent Extraordinare și Nebunia Mulțimii pe 29 septembrie 2026. Agenții au dedus cum funcționa un evaluator de sarcini simulat din semnale private de acceptare sau respingere care erau informative în 70 % din cazuri. Au citit postări anterioare de pe bord, au postat concluzii și au raportat separat credințe. Condiția de stres a făcut ca primele patru semnale să fie incorecte.

Fără comunicare, semnalele independente ulterioare au diluat eroarea inițială. Cu un bord, judecățile incorecte au persistat; agenții au raportat, de asemenea, incorect propriile dovezi. Majoritatea experimentelor au folosit Claude Haiku 4.5. Autorii raportează replicarea cu Sonnet 4.6, Opus 4.6 și GPT-5 mini, cu o posibilă excepție pentru Gemini 2.5 Flash.

În cele șapte politici de comunicare și scenarii suplimentare, regulile care păstrează rezultatele private ale testelor au obținut cele mai bune performanțe. Una a cerut raportare exactă și a interzis teste sau numărări inventate. Raționamentele post-hoc au menționat majoritatea de pe bord în peste 90 % din cazuri, dar autorii avertizează că aceste explicații nu stabilesc mecanismul intern.

Diferența dintre o mulțime și un ecou

Fundamentul intelectual precede AI generativ. În lucrarea din 1992 despre cascadele informaționale, Sushil Bikhchandani, David Hirshleifer și Ivo Welch descriu cum decidenții secvențiali pot urma predecessorii ignorând informațiile proprii. Cadru lor ajută la explicarea motivului pentru care conformitatea poate coexista cu credințe colective fragile. O revizuire a casadelor informaționale și a învățării sociale, coautorată cu Omer Tamuz, recenzează cercetarea teoretică și empirică care a urmat.

Luați în considerare o investigație ipotetică de software. Agentul A interpretează un test eșuat ca dovadă că o bibliotecă de autentificare este defectă. Agentul B citește raportul lui A și recomandă înlocuirea bibliotecii. Agentul C rezumă ambele mesaje ca două confirmări ale aceluiași defect. Un coordonator vede acum trei agenți de acord, deși întreaga lanț depinde de o singură interpretare a unui test.

Adăugarea Agentului D nu va produce neapărat informații noi. Dacă D citește doar rezumatul, fluxul de lucru a creat o altă oportunitate de a repeta afirmația. Unitatea relevantă de coroborare este observația independentă: o reproducere separată, un test diferit sau o inspecție directă a defectului suspectat.

Această distincție contează chiar și atunci când fiecare componentă este capabilă și cooperantă. Acordul este util doar în măsura în care fundamentele sale probatorii îl justifică. Prin urmare, un sistem ar trebui să urmărească care agenți au efectuat o verificare, care au interpretat doar rezultatul altui agent și care au repetat o concluzie fără să o verifice.

De ce independența schimbă aritmetica

Un calcul simplu ilustrează miza. Să presupunem că cinci alegători ipotetici răspund corect la o întrebare binară cu o probabilitate de 0,7, iar răspunsurile lor sunt independente. Probabilitatea ca cel puțin trei să fie corecți este de aproximativ 83,7 %. Combinarea voturilor lor îmbunătățește acuratețea de 70 % a unui singur alegător.

Acum să presupunem că toți cei cinci copiază același răspuns. Majoritatea este corectă numai când răspunsul original este corect: în 70 % din cazuri. Numărul vizibil de participanți a crescut, dar cantitatea de informație independentă nu a crescut. Acestea sunt probabilități ilustrative, nu măsurători de performanță din cercetarea recentă.

Există un alt calcul util pentru interpretarea condiției de stres. Dacă patru semnale au independent o șansă de 30 % de a fi greșite, probabilitatea ca toate cele patru să fie greșite este 0,3 la puterea a patra, adică 0,81 %. Aceasta descrie probabilitatea unui anumit șir inițial sub aceste presupuneri. Nu descrie probabilitatea ca o echipă de agenți implementată să eșueze.

O estimare a eșecului ar necesita atât frecvența cu care apar situații dificile, cât și modul în care sistemul se comportă când acestea apar. Confuzia acestor cantități poate face ca un rezultat să pară fie mai alarmant, fie mai liniștitor decât permite dovezile. Un test de stres poate expune o slăbiciune semnificativă fără a măsura frecvența ei în munca obișnuită.

Construiți o pistă de dovezi înainte de a construi consensul

Un răspuns practic este să separăm observațiile de interpretări în spațiul de lucru partajat. Pentru investigația ipotetică de autentificare, o observație ar putea conține un identificator de test, revizia de cod testată, rezultatul efectiv și timpul de execuție. Un câmp separat ar înregistra explicația propusă de agent și incertitudinea acesteia.

Această structură permite coordonatorului să pună o întrebare concretă: această recomandare introduce o nouă observație sau face referire la dovezile deja numărate? Trei rezumate care citează același test eșuat ar trebui să rămână un singur test în registrul de dovezi. O a doua reproducere independentă ar trebui să fie vizibilă ca o verificare separată.

Pentru decizii costisitoare sau cu consecințe, echipele ar putea, de asemenea, să colecteze evaluări inițiale înainte de a expune agenții la concluziile celorlalți. Un revizor ar examina materialul sursă, ar emite un judecăți inițial și abia apoi ar vedea discuția de grup. Schimbările de opinie ar rămâne posibile, dar sistemul ar putea înregistra ce noi dovezi le-au justificat.

Acestea sunt propuneri de design de evaluat, nu garanții validate prin acest experiment. Ele introduc costuri: înregistrări mai structurate, apeluri suplimentare de instrumente și, eventual, o coordonare mai lentă. Valoarea lor ar trebui evaluată în raport cu deciziile pe care le protejează. Un flux de lucru de brainstorming poate tolera discuții libere; o investigație de incident de producție poate necesita o pistă de dovezi mult mai strictă.

Regulile de prompt și controalele de runtime rezolvă probleme diferite

Cererea unui agent de a păstra dovezile este utilă, dar o arhitectură de producție poate merge mai departe prin păstrarea efectivă a ieșirii originale a instrumentului. Un serviciu de execuție ar putea scrie rezultatele într-un registru pe care agenții îl pot cita, dar nu îl pot suprascrie. Cititorii ar putea apoi să compare interpretarea cu ieșirea de bază.

Chiar și un jurnal imuabil nu garantează că un test a fost bine conceput, că sursa este de încredere sau că interpretarea este corectă. Totuși, face discrepanțele inspectabile. Un sistem poate distinge un test defect de un raport care descrie incorect acel test.

Autorizația ar trebui să rămână o decizie separată. O concluzie încrezătoare că un sistem necesită reparație nu conferă permisiunea de a-l modifica. Menținerea permisiunilor de execuție în afara procesului de consens previne ca o eroare epistemică să devină automat o acțiune operațională. O echipă de agenți poate greși fără a i se permite să facă o schimbare nelimitată.

Diversitatea modelelor ar trebui, de asemenea, evaluată în loc să se presupună că rezolvă problema. Modele diferite pot contribui cu interpretări distincte, dar atribuirea de nume sau roluri diferite agenților nu stabilește că dovezile lor sunt independente. Un grup divers care citește același rezumat eronat poate totuși să împărtășească un singur blocaj de dovezi.

Ce ar trebui să măsoare o evaluare mai puternică

Publicația legată este o lucrare de cercetare publică. Cititorii ar trebui să evite să o trateze ca un benchmark cuprinzător al produselor multi-agent implementate. Valoarea ei constă în modul de eșec specific pe care îl face testabil; implicațiile sale mai largi necesită dovezi suplimentare.

O evaluare utilă ulterioară ar varia ordinea semnalelor, acuratețea dovezilor private, numărul de participanți și structura de comunicare. Ar trebui să includă secvențe obișnuite alături de cele deliberat înșelătoare și majorități timpurii corecte alături de majorități timpurii incorecte. În caz contrar, o politică ar putea părea de succes pur pentru că învață agenții să se încreadă în fiecare consens.

Acuratețea singură ar omite distincții importante. Evaluatorii ar trebui să măsoare dacă rapoartele păstrează fidel observațiile, cât de des agenții inventează dovezi de susținere, dacă o minoritate corectă poate schimba decizia finală și dacă coordonatorul numără citările repetate ca verificări separate. Consumul de tokeni și latența aparțin aceleiași comparații: un protocol mai sigur necesită în continuare un cost operațional util.

Pentru a investiga mecanismele, cercetătorii ar putea varia experimental accesul la judecăți anterioare menținând constantă dovezile sarcinii. Ei ar putea compara evaluări inițiale independente cu cele formate după citirea tablei. Randomizarea ordinii de prezentare ar ajuta la separarea efectelor dovezilor de efectele secvenței sau ale proeminenței. Explicațiile generate pot ghida ipotezele, dar nu ar trebui să servească ca singura dovadă a motivului pentru care un model și-a schimbat răspunsul.

O definiție mai bună a fiabilității multi-agent

Limbajul mentalității de turmă este viu, dar nu ar trebui citit ca dovadă că modelele experimentează presiune socială umană sau dețin credințe umane. Îngrijorarea operațională este observabilă: informația intră într-un flux de lucru, judecățile influențează judecăți ulterioare, iar răspunsul final poate ascunde de unde provine sprijinul său.

Pentru constructori, următorul prag ar trebui să fie corecția demonstrabilă. Când un agent face o greșeală plauzibilă, poate altul să identifice dovezile contradictorii? Poate coordonatorul să păstreze acel dezacord suficient de mult timp pentru a-l investiga? Poate decizia finală să explice ce verificări independente au rezolvat problema?

O echipă mai mare câștigă încredere atunci când adaugă informații verificabile și îmbunătățește deciziile în fața provocărilor. Numărarea agenților, numărarea susținerilor și producerea de discuții mai lungi sunt substituiri inadecvate. Cel mai util sistem multi-agent este cel al cărui dovezi rămân inspectabile chiar și atunci când participanții săi sunt de acord.