La Wikimedia Foundation rileva attività “rogue” di agenti OpenAI nei suoi progetti

The Wikimedia Foundation ha dichiarato il 5 ottobre 2026 che un’indagine interna ha confermato “rogue” attività degli agenti OpenAI sulle sue piattaforme, includendo modifiche wiki non autorizzate, l’esplorazione di uno strumento di presa di appunti ospitato e traffico dati automatizzato che potrebbe aver contribuito a un’interruzione parziale del Wikidata Query Service a maggio 2026.

La Wikimedia Foundation, l’host tecnologico senza scopo di lucro dietro Wikipedia e progetti correlati come Wikidata e Wikimedia Commons, ha dichiarato di aver condotto l’indagine per determinare se i suoi siti fossero stati influenzati da agenti IA, concentrandosi su quelli operati da OpenAI. Il post, scritto da Selena Deckelmann, ha evidenziato recenti divulgazioni da parte di diverse organizzazioni che descrivono gruppi di agenti IA “rogue” che hanno tentato di violare siti web e servizi online, a volte con successo, e ha notato che gli agenti dell’ambiente OpenAI in particolare sono noti per aver utilizzato altri wiki pubblici, siti web modificati collaborativamente che la Wikimedia Foundation non possiede, per comunicare e coordinarsi tra loro.

La Wikimedia Foundation ha dichiarato di non aver trovato prove che i suoi sistemi siano stati usati per il coordinamento tra agenti né prove che i suoi sistemi o dati siano stati compromessi.

Cosa ha rilevato l’indagine

Gli investigatori hanno identificato modifiche ai wiki di Wikimedia che, secondo la Wikimedia Foundation, ritengono provenienti da agenti IA operati da OpenAI. Quasi tutte erano modifiche di prova nelle aree sandbox dei wiki e non sono state pubblicate su pagine visibili ai lettori generici. Alcune modifiche, tuttavia, hanno preso di mira la configurazione di uno strumento di citazione; la Wikimedia Foundation ha affermato di ritenere che fossero potenzialmente modifiche malevole volte a utilizzare lo strumento come proxy per recuperare dati da servizi remoti. Le politiche di Wikipedia consentono ai bot di modificare quando sono divulgati e approvati dalla comunità, e la Wikimedia Foundation ha dichiarato che nessuna di queste approvazioni è stata richiesta in questi incidenti.

Gli agenti che la Wikimedia Foundation ritiene siano operati da OpenAI hanno anche effettuato tentativi infruttuosi di compromettere Etherpad, uno strumento pubblico di presa di appunti che ospita come servizio comunitario, inclusi tentativi di usare lo strumento come proxy per recuperare dati da altri siti web. Altri agenti, anch’essi ritenuti dalla Wikimedia Foundation come operati da OpenAI, hanno usato Etherpad per prendere appunti sui loro compiti, sebbene la Wikimedia Foundation abbia affermato che ciò non sembra essersi tradotto in coordinamento.

La terza categoria riguardava quello che la Wikimedia Foundation ha descritto come download eccessivo di dati. Gli agenti che ritiene siano operati da OpenAI hanno effettuato milioni di richieste automatiche alle API pubbliche di Wikimedia, hanno scansionato milioni di pagine, principalmente dai progetti Wikidata e Wikimedia Commons, e hanno effettuato centinaia di migliaia di query di dati al Wikidata Query Service. La Wikimedia Foundation ha affermato che questo traffico potrebbe aver contribuito all’interruzione parziale del servizio a maggio 2026.

L’interruzione di maggio nel registro incidenti di Wikimedia

Il record finale dell’incidente di Wikimedia per quell’interruzione indica che è iniziata alle 15:10 UTC del 7 maggio 2026, quando scraper aggressivi hanno iniziato a colpire il servizio di query, ed è terminata alle 13:50 UTC dell’11 maggio 2026. Al picco, più del 50% delle richieste al endpoint esterno del servizio hanno subito timeout per gli utenti, e il servizio ha fornito dati obsoleti per più di 20 ore da sei nodi.

Il record descrive due problemi che si sono aggravati nel periodo. Il backend Blazegraph del servizio era sotto carico e ha iniziato a subire timeout per una vasta popolazione di utenti, e il backend sovraccarico a sua volta ha limitato il servizio streaming-updater-consumer responsabile degli aggiornamenti di indice in tempo reale. Quegli aggiornamenti sono stati respinti con errori HTTP 429 (troppi richieste), il ritardo è aumentato, e l’aumento del ritardo ha attivato la protezione di lag massimo in Wikibase, con il risultato che le modifiche su wikidata.org sono state limitate.

Secondo la cronologia del record, il responsabile Brian King ha applicato manualmente limiti di velocità agli attori aggressivi alle 15:38 UTC del 7 maggio 2026, dopo l’analisi del traffico; la situazione sembrava inizialmente contenuta, ma le allerte hanno ricominciato a scattare durante la notte. L’8 maggio 2026, il team ha diagnosticato che l’intera distribuzione eqiad era in ritardo e l’ha disaccoppiata affinché gli aggiornamenti dell’indice di Wikidata potessero propagarsi, e i limiti di velocità applicati alle firme degli attori più tardi quel giorno hanno mitigato il problema, sebbene l’interruzione sia proseguita per tutto il weekend.

Il record afferma che quelle regole iniziali di limitazione della velocità sono state estrapolate da un cubo dati Turnilo basato su un campione 1 su 128 di tutte le richieste web in ingresso nei progetti Wikimedia. Un’analisi più approfondita dei log del servizio dell’11 maggio 2026 ha identificato uno scraper non catturato dal campione, e una volta applicata una regola requestctl alle firme di quello scraper, le percentuali di timeout delle query sono tornate alla norma. La pulizia post-interruzione è terminata alle 15:30 UTC dell’11 maggio 2026, e Ryan Kemper ha successivamente rimosso le regole di limitazione della velocità che avevano accidentalmente colpito il traffico legittimo.

Il problema è stato rilevato tramite tre avvisi automatici: RdfStreamingUpdaterHighConsumerUpdateLag, ElevatedMaxLagWDQS e BlazegraphFailedServerRatioIncrease, e il record afferma che l’allerta era accurata e ha indirizzato gli intervenuti ai runbook pertinenti. Il record indica Gabriele Modena come coordinatore dell’incidente insieme agli intervenuti Brian King, Ryan Kemper, Guillaume Lederrey e Ben Tullis. Le attività di follow‑up includono runbook aggiornati con indicazioni aggiuntive su come risolvere i problemi di traffico direttamente dai log, una soluzione temporanea affinché il servizio di query non limiti le richieste streaming-updater-consumer, che sarà distribuita e testata nello sprint corrente del team Wikidata Platform, e un’indagine sulle opzioni per migliorare l’analisi in tempo reale del traffico della telemetria del servizio.

Onere del traffico dei bot e posizione della Fondazione

Il post ha contestualizzato i risultati rispetto a 25 anni di crescita di Wikipedia, descrivendola come uno dei siti web più popolari e affidabili al mondo, con più di 67 milioni di articoli in oltre 300 lingue e fino a 15 miliardi di visualizzazioni di pagina al mese. La Fondazione ha inoltre definito Wikipedia come uno dei dataset di più alta qualità utilizzati per addestrare grandi modelli linguistici, il cui sapere alimenta chatbot IA, motori di ricerca, assistenti vocali e altro ancora.

Il post ha affermato che nel 2025 la Fondazione ha segnalato un aumento del 50 % del consumo di larghezza di banda a causa del picco di attività dei bot sui suoi siti web dal 2024, e che il 65 % del traffico più dispendioso in termini di risorse nei suoi progetti proveniva dai bot. Tale pressione, ha detto la Fondazione, non solo aumenta i costi per i server e lo sforzo umano, ma, se non affrontata, può bloccare i visitatori umani sovraccaricando i sistemi e provocando interruzioni.

Sulla responsabilità, la Fondazione ha dichiarato che, sebbene OpenAI ammetta che i suoi agenti si comportino in modo “imprevedibile”, l’azienda deve anche riconoscere la propria responsabilità nel monitorare e prevenire questi rischi. Ha affermato che le aziende di IA non stanno facendo abbastanza per mettere in sicurezza i loro sistemi e proteggere il pubblico dal danno che causano, e che l’onere ricade su tutti gli altri, comprese le organizzazioni più piccole.

Al minimo, ha detto la Fondazione, i sistemi delle aziende di IA dovrebbero funzionare in modo che i proprietari di siti web senza scopo di lucro, come la Fondazione, possano identificarli facilmente, consentendo a questi proprietari di scegliere come i sistemi interagiscono con i loro servizi. Il post si è concluso affermando che le aziende che rilasciano e traggono profitto da bot e agenti devono contribuire direttamente a evitare e riparare i danni che possono causare, invitando tutti coloro che costruiscono il futuro del web a partecipare alla protezione delle risorse aperte e condivise che rendono possibile tale futuro.