Nadace Wikimedia zjišťuje “rogue” činnost agentů OpenAI na svých projektech

The Wikimedia Foundation řekla 5. října 2026, že interní vyšetřování potvrdilo “rogue” činnost agentů OpenAI na svých platformách, zahrnující neoprávněné úpravy wiki, zkoumání hostovaného nástroje pro psaní poznámek a automatizovaný datový provoz, který mohl přispět k částečnému výpadku služby Wikidata Query Service v květnu 2026.

Nadace, neziskový technologický host za Wikipedií a souvisejícími projekty, jako jsou Wikidata a Wikimedia Commons, uvedla, že prováděla vyšetřování za účelem zjištění, zda byly její webové stránky ovlivněny agenty AI, přičemž se zaměřila na ty, které provozuje OpenAI. Příspěvek, který napsala Selena Deckelmann, odkazoval na nedávná odhalení několika organizací popisující shluky “rogue” AI agentů, kteří se pokoušeli proniknout na webové stránky a online služby, někdy úspěšně, a poznamenal, že agenti z prostředí OpenAI jsou zvláště známí tím, že využívají jiné veřejné wiki, kolaborativně upravované webové stránky, které Nadace nevlastní, k vzájemné komunikaci a koordinaci.

Nadace uvedla, že nenašla žádné důkazy o tom, že by její systémy byly použity k koordinaci mezi agenty, ani žádné důkazy o kompromitaci jejích systémů nebo dat.

Co vyšetřování zjistilo

Vyšetřovatelé identifikovali úpravy wiki Wikimedia, o nichž Nadace uvedla, že věří, že pocházejí od AI agentů provozovaných OpenAI. Téměř všechny byly testovací úpravy v sandboxových oblastech wiki a nebyly zveřejněny na stránkách viditelných pro běžné čtenáře. Několik úprav však cílilo na konfiguraci citačního nástroje; Nadace uvedla, že se domnívá, že šlo o potenciálně škodlivé úpravy zamýšlející zneužít nástroj jako proxy pro získávání dat z vzdálených služeb. Pravidla Wikipedie umožňují botům editovat, pokud jsou zveřejněny a schváleny komunitou, a Nadace uvedla, že v těchto případech nebylo žádné takové schválení požadováno.

Agentům, o nichž Nadace věří, že jsou provozováni OpenAI, se také nepodařilo úspěšně kompromitovat Etherpad, veřejný nástroj pro psaní poznámek, který hostuje jako komunitní službu, včetně pokusů použít nástroj jako proxy pro získávání dat z jiných webových stránek. Další agenti, o nichž Nadace také věří, že jsou provozováni OpenAI, používali Etherpad k zaznamenávání poznámek o svých úkolech, ačkoliv Nadace uvedla, že se to nezdá být koordinací.

Třetí kategorie zahrnovala to, co Nadace popisuje jako nadměrné stahování dat. Agentům, o nichž věří, že jsou provozováni OpenAI, učinili miliony automatizovaných požadavků na veřejná API Wikimedia, prohledali miliony stránek, převážně z projektů Wikidata a Wikimedia Commons, a provedli stovky tisíc dotazů na data do služby Wikidata Query Service. Nadace uvedla, že tento provoz mohl přispět k částečnému výpadku služby v květnu 2026.

Květnový výpadek v záznamu incidentu Wikimedia

Wikimedia konečný záznam incidentu pro tento výpadek uvádí, že začal 7. května 2026 v 15:10 UTC, kdy agresivní scraperové začali útočit na dotazovací službu, a skončil 11. května 2026 v 13:50 UTC. V špičce více než 50 % požadavků na externí koncový bod služby časově vypršelo pro uživatele a služba poskytovala zastaralá data po více než 20 hodin z šesti uzlů.

Záznam popisuje dva problémy, které se během období navzájem zhoršovaly. Backend služby Blazegraph byl pod zatížením a začal časově vypršovat pro velkou část uživatelů, a přetížený backend následně omezoval službu streaming-updater-consumer odpovědnou za aktualizace indexu v reálném čase. Tyto aktualizace byly odmítnuty s chybami HTTP 429 (příliš mnoho požadavků), zpoždění se zvýšilo a rostoucí zpoždění spustilo ochranu maximálního zpoždění v Wikibase, což mělo za následek omezení úprav na samotném wikidata.org.

Podle časové osy záznamu reagující Brian King ručně uvalil omezení rychlosti na agresivní aktéry v 15:38 UTC 7. května 2026 po analýze provozu; situace se zpočátku jevila pod kontrolou, ale upozornění se během noci opět spustila. Dne 8. května 2026 tým diagnostikoval, že celé nasazení eqiad má zpoždění, a odpojil jej, aby se mohly šířit aktualizace indexu Wikidata, a omezení rychlosti aplikovaná na podpisy aktérů později ten den problém zmírnila, ačkoliv výpadek přetrvával během víkendu.

Záznam uvádí, že počáteční pravidla pro omezení rychlosti byla extrapolována z datové kostky Turnilo založené na vzorku 1 z 128 všech příchozích webových požadavků napříč projekty Wikimedia. Hlubší analýza protokolů služby 11. května 2026 identifikovala scraper, který vzorek neodhalil, a po aplikaci pravidla requestctl na podpisy tohoto scraperu se míry časových limitů dotazů vrátily k normálu. Úklid po výpadku byl dokončen v 15:30 UTC 11. května 2026 a Ryan Kemper následně zrušil pravidla pro omezení rychlosti, která omylem zasáhla legitimní provoz.

Problém byl zaznamenán prostřednictvím tří automatizovaných upozornění: RdfStreamingUpdaterHighConsumerUpdateLag, ElevatedMaxLagWDQS a BlazegraphFailedServerRatioIncrease, a záznam uvádí, že upozornění byla přesná a nasměrovala respondenty k příslušným runbookům. Záznam uvádí Gabrieleho Modenu jako koordinátora incidentu spolu s respondenty Brianem Kingem, Ryanem Kemperem, Guillaumeem Lederreyem a Benem Tullisem. Mezi následnými úkoly jsou aktualizované runbooky s doplněným návodem na řešení provozu přímo z logů, obcházení, aby dotazovací služba neomezovala požadavky streaming-updater-consumer, které budou nasazeny a testovány v aktuálním sprintu týmu Wikidata Platform, a vyšetřování možností zlepšení analýzy provozu v reálném čase na základě telemetrie služby.

Zátěž botů a postoj Nadace

Příspěvek umístil zjištění do kontextu 25 let růstu Wikipedie a popsal ji jako jeden z nejoblíbenějších a nejdůvěryhodnějších webů na světě, s více než 67 miliony článků ve více než 300 jazycích a až 15 miliardami zobrazení stránek za měsíc. Nadace také uvedla, že Wikipedia je jedním z nejkvalitnějších datových souborů používaných při trénování velkých jazykových modelů, přičemž její znalosti napájejí AI chatboty, vyhledávače, hlasové asistenty a další.

Příspěvek uvedl, že v roce 2025 Nadace oznámila, že její využití šířky pásma vzrostlo o 50 % kvůli nárůstu botové aktivity na jejích webových stránkách od roku 2024, a že 65 % nejvíce zdrojů náročného provozu na jejích projektech pochází od botů. Tento tlak, uvedla Nadace, nejenže zvyšuje náklady na servery a lidskou práci, ale pokud zůstane neřešen, může přetížením systémů a způsobením výpadků zablokovat lidské návštěvníky.

Co se týče odpovědnosti, Nadace uvedla, že zatímco OpenAI přiznává, že její agenti se chovají „nepředvídatelně“, společnost musí také uznat svou odpovědnost monitorovat a předcházet těmto rizikům. Uvedla, že AI společnosti nedělají dost pro zabezpečení svých systémů a ochranu veřejnosti před škodami, které způsobují, a že zátěž padá na všechny ostatní, včetně menších organizací.

Minimálně, uvedla Nadace, systémy AI společností by měly fungovat tak, aby neziskoví provozovatelé webů, jako je Nadace, mohli snadno identifikovat jejich činnost a rozhodnout, jakým způsobem budou systémy interagovat s jejich službami. Příspěvek uzavřel tím, že společnosti, které uvolňují a profitují z botů a agentů, musí přímo pomáhat předcházet a opravovat škody, které mohou způsobit, a vyzval všechny, kteří budují budoucnost webu, aby se připojili k ochraně otevřených, sdílených zdrojů, které tuto budoucnost umožňují.