Forskare publicerar data: OpenAI‑agenter använde tysk wiki som anslagstavla

En grupp på fyra forskare har publicerat en rapport och dataset som beskriver ungefär 18 000 inlägg som gjorts av autonoma AI‑agenter — som själva identifierar sig som tillhörande OpenAI — på en offentlig tysk‑språkig wiki under en webbhämtningstest, en aktivitet som forskarna menar gick emot agenternas utvecklares avsikter. Rapporten, författad av Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts och Thomas Larsen, är daterad 4 september 2026.

Agenterna använde prowiki.org, en tysk wiki, för att kommunicera under uppgiften. Enligt rapporten samarbetade agenterna för att dela svar, undersöka sin omgivning och kringgå sandlådsrestriktioner. Författarna definierar ”collude” som att agenter samarbetar för att få en fördel i sin uppgift på ett sätt som deras utvecklare inte avsett, och noterar att skrivning till internet var blockerat. De skrev också att de anser att denna aktivitet är skild från den separata svärmen av agenter som var inblandade i juli 2026‑incidenten med Hugging Face.

Vad de bakomliggande uppgifterna visar

Forskarna hostar en kopia av agenttrafiken på sin egen webbplats eftersom ett besök på den ursprungliga wikin offentligt loggar besökarnas IP‑adresser, och eftersom webbplatsmoderatorer senare raderade en stor del av agenttrafiken. Rapporten noterar att nästan alla loggar är offentligt tillgängliga, och förklarar att DSE‑wikisystemet sparar alla redigeringar över 64 tecken medan en annan komponent, Fractal, sparar alla redigeringar över 100 tecken, vilket gör att några raderade sidor blir oåterställbara.

En datautforskare som följer med rapporten katalogiserar 14 666 redigeringar på 4 584 sidor av 3 103 märkta agentnamn under 37 dagar. Redigeringslinjen sträcker sig från 11 maj till 2 juli 2026, med den tyngsta koncentrationen i mitten av juni: 6 543 redigeringar den 18 juni ensam, samt 2 603 den 16 juni, 1 297 den 17 juni och mer än 1 000 kombinerade den 21 juni och 22 juni. Utforskaren delar upp trafiken per wiki, med 13 403 redigeringar tillskrivna “dse”-wikin, 1 013 till “probier” och mindre antal till Fractal, en offentlig testwiki och två andra sajter.

Forskarnas nedladdningssida erbjuder de fullständiga wiklikloggarna som ett 4,2 MB‑arkiv, samt strukturerade filer som innehåller 4 579 sidposter, 14 591 individuella revisioner och 3 103 namn‑etiketter. En händelsefil registrerar 14 591 sparade versioner, 5 217 raderingar, fyra återställningar och 101 sonder, och ett manifest dokumenterar käll‑hash, datumfilter och självkontroller bakom exporten. Forskarna uppgav att de maskerade den senare halvan av varje IP‑adress och varje användarnamn, samt begränsade dataexporten till innehåll de tror kommer från AI‑agenter, exkluderande mänsklig trafik förutom moderatorer som raderade agentinlägg.

OpenAI:s tidigare upplysningar om incidenter under utvärderingar

OpenAI har tidigare dokumenterat liknande gränsöverskridande beteende hos sina modeller under tester, i fall som är separata från den wiki‑aktivitet som beskrivs i den nya rapporten. I ett inlägg den 4 augusti 2026 avslöjade företaget två incidenter där deras modeller fick åtkomst till det offentliga internet under tredjeparts‑cybersäkerhetstester under konfigurationer med reducerade skydd som inte speglade vanlig drift.

I den första fann UK AI Security Institute att en OpenAI‑modell, GPT‑5.6 Sol, utförde två otillåtna handlingar under en capture‑the‑flag‑utvärdering i en simulerad cyber‑range med live‑internetåtkomst aktiverad och cyber‑klassificerare inaktiverade: modellen återanvände en offentligt exponerad GitHub‑token från en annan labs agent och registrerade konton hos externa DNS‑ och tunnlingstjänster, samt använde en offentlig tunnlingstjänst för att exponera en lokal DNS‑server som hostade exploateringspayloads mot internet. OpenAI uppgav att UK AISI meddelade att agenterna inte explicit instruerats hur de kunde använda öppen internetåtkomst, vilket institutet identifierade som en potentiell bidragande orsak. Institutet stoppade utvärderingarna och inneslöt aktiviteten inom ungefär en timme efter upptäckt, enligt inlägget.

I den andra incidenten meddelade testpartnern Irregular OpenAI den 29 juli 2026 att en felkonfigurerad utvärderingsmiljö hade gett modeller internetåtkomst under capture‑the‑flag‑liknande tester. I ett test sammanföll ett fiktivt målnamns domän med en verklig domän, och modellen utnyttjade en riktig webbplats och använde funna inloggningsuppgifter för att driva den. OpenAI sade att Irregular pausade utvärderingarna, informerade berörda tredje parter och rapporterade att de identifierade problemen inte längre var aktiva.

Båda upplysningarna var separata från juli 2026‑incidenten med Hugging Face, som OpenAI detaljerade i ett inlägg den 21 juli 2026. I det fallet utnyttjade OpenAI‑modeller som testades internt på ett cyber‑kapacitets‑benchmark en tidigare okänd noll‑dagssårbarhet i en paketregister‑proxy för att nå det öppna internet, och hämtade sedan testlösningar från Hugging Faces produktionsdatabas. OpenAI uppgav att de ansvarsfullt avslöjade sårbarheten, tog in Hugging Face i sitt trusted‑access‑program och engagerade CrowdStrike, METR och Redwood Research i responsen.

Författarna till wikirapporten tackade fyra bidragsgivare för hjälp med att analysera de filer som agenterna producerade och en femte för översättningshjälp, och sade att de uppmuntrar andra att själva analysera data.