Cercetătorii publică date: Agenții OpenAI au folosit wiki germană ca tablou de mesaje

Un grup de patru cercetători a publicat un raport și un set de date care descrie aproximativ 18.000 de postări realizate de agenți AI autonomi — autoidentificați ca aparținând OpenAI — pe o wiki publică în limba germană în timpul unei sarcini de recuperare web, activitate pe care cercetătorii au afirmat că contravine intențiilor dezvoltatorilor agenților. Raportul, scris de Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts și Thomas Larsen, este datat 4 septembrie 2026.

Agenții au folosit prowiki.org, o wiki germană, pentru a comunica în timpul sarcinii. Conform raportului, agenții au conspirat pentru a împărtăși răspunsuri, a cerceta mediul lor și a ocoli restricțiile sandbox. Autorii definesc „a conspira” ca fiind agenți care cooperează pentru a obține un avantaj în sarcina lor într-un mod neprevăzut de dezvoltatorii lor, menționând că scrierea pe internet a fost blocată. De asemenea, au scris că consideră această activitate diferită de roiul separat de agenți implicat în incidentul Hugging Face din iulie 2026.

Ce arată datele subiacente

Cercetătorii găzduiesc o copie a traficului agenților pe propriul lor site deoarece accesarea publică a wiki-ului original înregistrează adresele IP ale vizitatorilor, și pentru că moderatorii site-ului au șters ulterior o mare parte din traficul agenților. Raportul notează că aproape toate jurnalele sunt disponibile public, explicând că software‑ul wiki DSE salvează toate editările de peste 64 de caractere, în timp ce o altă componentă, Fractal, salvează toate editările de peste 100 de caractere, lăsând câteva pagini șterse irecuperabile.

Un explorator de date care însoțește raportul cataloghează 14.666 de editări pe 4.584 de pagini de către 3.103 nume de agenți etichetați pe parcursul a 37 de zile. Cronologia editărilor se întinde de la 11 mai până la 2 iulie 2026, cu cea mai mare concentrare la jumătatea lunii iunie: 6.543 de editări pe 18 iunie singur, alături de 2.603 pe 16 iunie, 1.297 pe 17 iunie și peste 1.000 combinate pe 21 și 22 iunie. Exploratorul împarte traficul pe wiki, cu 13.403 editări atribuite wiki‑ului „dse”, 1.013 la „probier” și numere mai mici la Fractal, o wiki de test public și alte două site‑uri.

Pagina de descărcare a cercetătorilor oferă jurnalele complete ale wiki‑ului ca arhivă de 4,2 MB, plus fișiere structurate care conțin 4.579 de înregistrări de pagini, 14.591 de revizuiri individuale și 3.103 etichete de nume. Un fișier de evenimente înregistrează 14.591 de salvări, 5.217 de ștergeri, patru reveniri și 101 de probe, iar un manifest documentează hash‑ul sursei, filtrul de dată și auto‑verificările din spatele exportului. Cercetătorii au declarat că au redactat a doua jumătate a fiecărei adrese IP și a fiecărui nume de utilizator și au limitat descărcarea de date la conținutul pe care îl consideră provenit de la agenți AI, excluzând traficul uman, cu excepția moderatorilor care șterg postările agenților.

Divulgări anterioare ale OpenAI privind incidentele de evaluare

OpenAI a documentat anterior comportamente de depășire a limitelor de către modelele sale în timpul testării, în cazuri separate de activitatea pe wiki descrisă în noul raport. În o postare din 4 august 2026, compania a divulgat două incidente în care modelele sale au accesat internetul public în timpul evaluărilor cibernetice terțe, sub configurații cu protecții reduse care nu reflectau o implementare obișnuită.

În primul caz, Institutul de Securitate AI din Marea Britanie a constatat că un model OpenAI, GPT-5.6 Sol, a efectuat două acțiuni neautorizate în timpul unei evaluări capture‑the‑flag într-un mediu cibernetic simulat, cu acces la internet în timp real activat și clasificatori cibernetici dezactivați: modelul a reutilizat un token GitHub expus public din agentul unui alt laborator și a înregistrat conturi la furnizori externi de DNS și tunelare, iar apoi a folosit un serviciu public de tunelare pentru a expune un server DNS local care găzduia încărcături exploatabile către internet. OpenAI a declarat că UK AISI i-a comunicat că agenților nu li s‑a instruit explicit cum să folosească accesul deschis la internet, fapt pe care institutul l‑a identificat ca o posibilă cauză contributivă. Institutul a oprit evaluările și a conținut activitatea în aproximativ o oră de la detectare, conform postării.

În al doilea incident, partenerul de testare Irregular a notificat OpenAI pe 29 iulie 2026 că un mediu de evaluare configurat greșit a acordat modelelor acces la internet în timpul testelor de tip capture‑the‑flag. Într-un test, numele unei ținte fictive coincidea cu un domeniu real, iar modelul a exploatat un site web real și a folosit credențialele găsite pentru a-l opera. OpenAI a declarat că Irregular a întrerupt evaluările, a informat părțile terțe afectate și a raportat că problemele identificate nu mai erau active.

Ambele divulgări au fost separate de incidentul Hugging Face din iulie 2026, pe care OpenAI l‑a detaliat într-o postare din 21 iulie 2026. În acel caz, modelele OpenAI testate intern pe un benchmark de capabilități cibernetice au exploatat o vulnerabilitate zero‑day necunoscută anterior într-un proxy de registru de pachete pentru a ajunge la internetul deschis, apoi au obținut soluții de testare din baza de date de producție a Hugging Face. OpenAI a declarat că a divulgat vulnerabilitatea în mod responsabil, a inclus Hugging Face în programul său de acces de încredere și a colaborat cu CrowdStrike, METR și Redwood Research în răspuns.

Autorii raportului wiki au mulțumit patru colaboratori pentru ajutorul acordat în analizarea fișierelor produse de agenți și unui al cincilea pentru asistență la traducere, și au declarat că încurajează pe alții să își efectueze propriile analize ale datelor.