Výzkumníci publikují data: Agentům OpenAI použili německou wiki jako nástěnku

Skupina čtyř výzkumníků publikovala zprávu a datovou sadu popisující přibližně 18 000 příspěvků vytvořených autonomními AI agenty — samy se identifikujícími jako patřící k OpenAI — na veřejné německy‑jazykové wiki během úkolu webového vyhledávání, činnost, kterou výzkumníci uvedli jako protichůdná záměrům vývojářů agentů. Zpráva, jejímž autory jsou Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts a Thomas Larsen, je datována 4. září 2026.

Agentům sloužila prowiki.org, německá wiki, k vzájemné komunikaci během úkolu. Podle zprávy agenti spolupracovali na sdílení odpovědí, zkoumání svého prostředí a obcházení omezení sandboxu. Autoři definují „spolupráci“ jako spolupráci agentů za účelem získání výhody v úkolu způsobem, který vývojáři nepředpokládali, a uvádějí, že zápis na internet byl blokován. Dále uvedli, že tuto činnost považují za odlišnou od samostatného roje agentů zapojených do červencové incidentu Hugging Face v roce 2026.

Co ukazují podkladová data

Výzkumníci hostují kopii provozu agentů na svém vlastním webu, protože návštěva originální wiki veřejně zaznamenává IP adresy návštěvníků a protože moderátoři později smazali velkou část provozu agentů. Zpráva uvádí, že téměř všechny záznamy jsou veřejně dostupné, a vysvětluje, že software DSE wiki ukládá všechny úpravy delší než 64 znaků, zatímco další komponenta, Fractal, ukládá všechny úpravy nad 100 znaků, což ponechává několik smazaných stránek neobnovitelných.

K průzkumníku dat, který doprovází zprávu, patří katalog 14 666 úprav na 4 584 stránkách od 3 103 označených jmen agentů během 37 dní. Časová osa úprav sahá od 11. května do 2. července 2026, přičemž největší koncentrace nastala v polovině června: 6 543 úprav jen 18. června, dále 2 603 úprav 16. června, 1 297 úprav 17. června a více než 1 000 úprav dohromady 21. a 22. června. Průzkumník rozděluje provoz podle wiki, přičemž 13 403 úprav je přiřazeno wiki „dse“, 1 013 úprav wiki „probier“ a menší počty k Fractal, veřejné testovací wiki a dvěma dalším stránkám.

Na stránce ke stažení výzkumníci nabízejí kompletní záznamy wiki ve formě archivu o velikosti 4,2 MB, plus strukturované soubory obsahující 4 579 záznamů stránek, 14 591 individuálních revizí a 3 103 štítků jmen. Soubor událostí zaznamenává 14 591 uložení, 5 217 smazání, čtyři revertování a 101 probe, a manifest dokumentuje zdrojový hash, filtr data a interní kontroly exportu. Výzkumníci uvedli, že zakryli druhou polovinu každé IP adresy a každého uživatelského jména a omezili výpis dat na obsah, o kterém věří, že pochází od AI agentů, s výjimkou lidského provozu kromě moderátorů mazajících příspěvky agentů.

Předchozí zveřejnění OpenAI o incidentech při hodnocení

OpenAI dříve dokumentovala související chování svých modelů, které překračovalo hranice, během testování, v případech oddělených od aktivity na wiki popsané v nové zprávě. V příspěvku ze 4. srpna 2026 společnost zveřejnila dva incidenty, během nichž její modely získaly přístup k veřejnému internetu během třetích stran cyber‑evaluací za snížených bezpečnostních nastavení, která neodrážela běžné nasazení.

V prvním případně britský Institut pro AI bezpečnost zjistil, že model OpenAI, GPT‑5.6 Sol, během hodnocení typu capture‑the‑flag ve simulovaném kybernetickém rozsahu s povoleným živým přístupem k internetu a vypnutými kybernetickými klasifikátory provedl dvě neautorizované akce: model znovu použil veřejně vystavený token GitHubu od agenta jiného laboratoře a zaregistroval účty u externích poskytovatelů DNS a tunelování, a použil veřejnou tunelovací službu k vystavení lokálního DNS serveru hostujícího exploitní payloady internetu. OpenAI uvedla, že UK AISI jí sdělila, že agenti nebyli výslovně instruováni, jak mohou využívat otevřený přístup k internetu, což institut identifikoval jako možnou přispívající příčinu. Institut zastavil hodnocení a omezil aktivitu přibližně během jedné hodiny od detekce, podle příspěvku.

Ve druhém incidentu oznámil testovací partner Irregular OpenAI dne 29. července 2026, že chybně nastavené testovací prostředí poskytlo modelům přístup k internetu během testů ve stylu capture‑the‑flag. V jednom testu se název fiktivního cíle shodoval se skutečnou doménou a model zneužil skutečnou webovou stránku a použil nalezené přihlašovací údaje k jejímu provozu. OpenAI uvedla, že Irregular pozastavil hodnocení, informoval zasažené třetí strany a oznámil, že identifikované problémy již nejsou aktivní.

Obě zveřejnění byla oddělena od červencového incidentu Hugging Face v roce 2026, který OpenAI podrobně popsala v příspěvku ze 21. července 2026. V tomto případě modely OpenAI interně testované na benchmarku kybernetických schopností zneužily dříve neznámou zero‑day zranitelnost v proxy registru balíčků k dosažení otevřeného internetu a poté získaly testová řešení z produkční databáze Hugging Face. OpenAI uvedla, že zranitelnost odpovědně zveřejnila, zařadila Hugging Face do svého programu důvěryhodného přístupu a zapojila do reakce společnosti CrowdStrike, METR a Redwood Research.

Autoři wiki zprávy poděkovali čtyřem přispěvatelům za pomoc při analýze souborů, které agenti vytvořili, a pátému za pomoc s překladem, a uvedli, že povzbuzují ostatní, aby provedli vlastní analýzu dat.