OpenAI verbiedt twee geheime beïnvloedingsoperaties met valse fronten

OpenAI zei op 8 oktober 2026 dat het twee geheime beïnvloedingsoperaties had verboden, één afkomstig uit Rusland en één uit Iran, die ChatGPT gebruikten om wat het “valse front”-entiteiten noemde te ondersteunen, en beoordeelde de Russische campagne als de eerste Category 5‑beïnvloedingsoperatie die het heeft verstoord. Volgens het veiligheidsrapport van het bedrijf gebruikten de operaties die entiteiten “om geopolitieke, conflictgerelateerde boodschappen te witwassen in hun doelgroepen”.

OpenAI beoordeelde de uit Rusland afkomstende operatie op Category 5 op de IO Breakout‑schaal, die beïnvloedingsoperaties rangschikt van 1, het laagste, tot 6, het hoogste, en plaatste de uit Iran afkomstige operatie op Category 4. Volgens OpenAI draaide de Iraanse campagne met zeven nep‑journalistpersona’s die lange artikelen aanboden aan kleine en middelgrote online publicaties wereldwijd, terwijl de Russische operatie blijkbaar onwetende mensen in Latijns‑Amerika had ingezet om een zelfbenoemd onderzoeksplatform ter plaatse te exploiteren.

OpenAI zei dat het in de afgelopen tweeënhalve jaar 30 geheime beïnvloedingsoperaties heeft blootgelegd, en dat operaties die hun inhoud in echte mediakanalen plaatsen in plaats van te vertrouwen op nep‑socialmediaverdeling, doorgaans de grootste potentiële reikwijdte hebben. Het rapport vergeleek het duo met pre‑AI fronten zoals “Alice Donovan”, een nep‑journalistpersona die werd omschreven als een dekmantel voor de Russische militaire inlichtingendienst en wiens artikelen in westerse media verschenen in 2016 en 2017, en “PeaceData”, een nep‑nieuwsplatform dat Meta in 2020 blootlegde en dat onwetende journalisten rekruteerde; beide stopten hun activiteiten na de onthulling, noteerde OpenAI.

Operatie uit Rusland ‘Dark Clark’

OpenAI verbood een cluster ChatGPT‑accounts die uit Rusland afkomstig waren en werden gebruikt voor taken die verband hielden met geheime beïnvloedingscampagnes gericht op landen in heel Latijns‑Amerika. De meeste operatoren werkten in het Russisch; één werkte in het Spaans maar leek zich in Rusland te bevinden. Omdat OpenAI geen toegang tot haar modellen vanuit Rusland toestaat, maakten de operatoren verbinding via VPN’s. OpenAI zei dat het informatie over de zaak met de relevante autoriteiten heeft gedeeld.

De operatoren gebruikten ChatGPT voornamelijk om interne rapporten op te stellen en bij te werken voor een onbekende leidinggevende, waarbij drie werkstromen werden behandeld: het denigreren van Oekraïne en het ondermijnen van de werving voor de Oekraïense strijdkrachten; inmenging in de binnenlandse politiek, met name in Bolivia en Argentinië; en het beheren van een zelfbeschreven onderzoeksplatform genaamd het Social Research Center (SRC). De operatoren leken het SRC te besturen via een nep‑persona genaamd “Mia Clark”, die de basis vormde voor de bijnaam “Dark Clark” van de operatie.

De interne rapporten beweerden dat er een reeks nep‑verhalen door de regio waren verspreid. De operatoren zeiden dat ze in 2024 een valse verhaal verspreidden waarin werd gesteld dat de Argentijnse president Javier Milei Cartier‑sieradenhalsbanden voor zijn honden had gekocht en lokale acteurs had betaald om anti‑Milei‑graffiti in Buenos Aires te plaatsen, beweringen die open‑source‑onderzoekers publiekelijk hebben toegeschreven aan een Russische entiteit genaamd “Politology” of “La Compania”, een vermeende opvolger van de Wagner‑groep.

In mei 2026 zeiden de operatoren dat ze een nep‑e-mailadres hadden aangemaakt dat zich voordeed als de Regionale Directie van Onderwijs in Lima en Peruaanse scholen instrueerden om Oekraïens‑thema‑evenementen te organiseren waarbij Stepan Bandera, een controversiële Oekraïense nationalist uit de twintigste eeuw, werd genoemd. OpenAI meldde dat haar open‑source‑onderzoek overeenkomende verhalen vond in de Peruaanse en Poolse pers en een reactie van ten minste één Poolse lid van het Europees Parlement.

De operatoren beweerden ook dat in juni 2026 een ander nep‑e-mailadres scholen in Ecuador had misleid om ceremonies te houden waarin trouw werd gezworen aan president Daniel Noboa en aan Erik Prince, de voormalige leider van de particuliere militaire contractant Blackwater; OpenAI meldde dat ze nauw overeenkomende berichtgeving in de Ecuadoriaanse media vond en een gedetailleerde weerlegging van de onderwijsminister van het land.

Twee beweerde nep‑items uit maart 2026 maakten gebruik van gemanipuleerde audio toegeschreven aan de Oekraïense consul in Ecuador en een video waarin werd beweerd dat de regering van Noboa jonge mannen rekruteerde om in Oekraïne te vechten, en Ecuadoriaanse fact‑checkers beschreven een overeenkomstige campagne begin april. Eind mei 2026, volgens de rapporten, verspreidden de operatoren gemanipuleerde audio van een werknemer van de Boliviaanse staatswatermaatschappij EPSAS, waarin werd gewaarschuwd dat de watertoevoer naar La Paz zou worden afgesloten en een noodtoestand zou worden uitgeroepen, een campagne die de operatoren beschouwden als bedoeld om de crisis rond anti‑regeringsprotesten te verergeren. OpenAI meldde dat ze een gepubliceerde weerlegging van de bewering en een officiële ontkenning van EPSAS hadden geïdentificeerd.

OpenAI zei dat de operatoren ook ChatGPT gebruikten om incidenten te identificeren waarvoor ze zich konden voordoen als verantwoordelijken, ondanks dat ze er geen betrokkenheid bij hadden, waaronder Falkland‑/Malvinas‑argumenten die al jarenlang deel uitmaken van de officiële positie van Argentinië en een Braziliaanse mediaberichtgeving over een gevangen vrijwilliger die de eigen video van de gevangene citeerde. Dat patroon suggereerde volgens het rapport een poging om een beïnvloedingsoperatie te voeren die gericht was op de werkgevers van de operatoren zelf in plaats van op een extern publiek, en de door de operatoren zelf gerapporteerde impactclaims konden niet klakkeloos worden aangenomen.

Desondanks beoordeelde OpenAI Dark Clark op Category 5, met verwijzing naar bewijs dat het leidde tot publieke commentaren van politici in een aantal landen, en beschreef het als de meest complexe poging om een frontidentiteit te exploiteren die het bedrijf in de afgelopen tweeënhalve jaar heeft verstoord.

Het Social Research Center Front

De rapporten van de operators verwezen naar aanwervings- en ontslagbeslissingen, salarisschalen, personeelsplannen en onderzoeksprojecten bij de SRC, wat aangeeft dat zij de entiteit controleerden in plaats van slechts mee te werken, zei OpenAI. De website van de SRC beschrijft een focus op de Indiase diaspora in Latijns‑Amerika en de relaties tussen India en de landen van de regio, en het beschikbare bewijs gaf aan dat de medewerkers ter plaatse niet wisten dat ze voor een Russische groep werkten. OpenAI identificeerde ruim 60 artikelen op de website van de SRC, waarvan de overgrote meerderheid blijkbaar originele composities waren.

De transparantie‑instellingen toonden aan dat het X‑account van de SRC een Duitse locatie vermeldde terwijl het verbinding maakte via de App Store van de Russische Federatie, en een van de Instagram‑accounts werd beheerd vanuit Venezuela. Een LinkedIn‑account met SRC‑branding had op 17 augustus 2026 961 volgers, beweerde 200 tot 500 medewerkers te hebben en noemde twee werknemers.

De operators vroegen af en toe aan het model operationele inhoud te produceren, zei OpenAI. De verzoeken omvatten een brief waarin de ereconsul van Oekraïne in Panama werd beschuldigd van corruptie, die later verscheen op een TikTok‑kanaal met één volger dat het logo van Panama’s TVN Noticias gebruikte; een vertaling naar Ecuadoriaans Spaans van een script waarin werd beweerd dat Noboa arme mensen in Ecuador had beledigd; en het proeflezen van een nepcontract tussen een bedrijf genaamd International Security Solutions FZE en een individu in Ecuador, zogenaamd om infrastructuurdiensten in Oekraïne te leveren. Een afbeelding van dat contract werd later op sociale media verspreid om de rekruteringsclaims te versterken, en volgens het rapport concludeerden factcheckers dat het bedrijf niet in het register van de Superintendencia de Empresas, Valores y Seguros van Ecuador voorkwam.

Iranische Operatie ‘Bogus Bylines’

OpenAI verbood een aparte groep ChatGPT‑accounts die uit Iran afkomstig waren, waarbij de operators in het Perzisch prompts gaven, inhoud in het Perzisch en Engels genereerden, en VPN’s gebruikten om hun locatie te verbergen. De campagne kreeg de bijnaam \”Bogus Bylines\” voor zeven nepjournalistpersonages: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams en Alice Johnson. De personages deden zich voor als westerse journalisten, en voor het personage Michael Harrison vroegen de operators ChatGPT om de biografie zelf te schrijven. OpenAI merkte op dat Meta in maart 2026 een Iraanse beïnvloedingsoperatie had verstoord die ook een Michael Harrison‑personage bevatte, en dat Meta in augustus 2026 het Instagram‑account van het Hoskins‑personage verbande nadat transparantie‑instellingen die accounts in Iran hadden gelokaliseerd.

Met behulp van open‑source onderzoek identificeerde OpenAI bijna 100 artikelen die onder de naam van de operatie werden gepubliceerd of gesyndiceerd, verspreid over ongeveer een dozijn kleine tot middelgrote online outlets die zich richten op internationale zaken, geopolitiek en het Midden‑Oosten. Het vroegste artikel dateerde van juli 2025 en het laatste van oktober 2026, en de frequentie nam toe na het uitbreken van het conflict tussen de VS en Iran, aldus het rapport. Operators vroegen ChatGPT om Engelstalige concepten aan te passen aan de indieningscriteria van specifieke outlets en om pitch‑e‑mails aan redacteuren te genereren. Eén outlet die de artikelen van de operatie publiceerde, had bijna 2 miljoen volgers op Facebook, bijna 355 000 op X en meer dan 544 000 op Instagram in augustus 2026.

Naast de artikelen genereerden de operators reeksen socialmediacommentaren die de Verenigde Staten afbeeldden als de agressor, Israël als een onbetrouwbare bondgenoot, en Iran als een veerkrachtig slachtoffer, waaronder meer dan twee dozijn reeksen vijandige Perzische reacties op het Britse satellietnetwerk Iran International, aldus OpenAI. Andere reeksen prezen de eigen artikelen van de operatie om ze populairder te laten lijken. De reacties die OpenAI online identificeerde, kregen weinig betrokkenheid, waarbij veel van de likes afkomstig waren van accounts die aan de operatie zelf waren gekoppeld, en de X‑accounts van drie van de personages waren in augustus 2026 geschorst.

OpenAI zei dat de interne rapporten van de operators hun impact maten aan de hand van het aantal weergaven van de berichten waarop ze reageerden, in plaats van de weergaven van hun eigen reacties, een berekening die het rapport beschreef als een sterke overschatting van de schijnbare effectiviteit van de operatie. Het beoordeelde de commentaarwerkstroom als Categorie 2 en de artikelplaatsingswerkstroom als Categorie 4, met verwijzing naar een consistente doorbraak naar een aantal mediakanalen. De algehele activiteit leek overeen te komen met een commerciële actor die een ingehuurde beïnvloedingscampagne uitvoert, hoewel OpenAI aangaf de specifieke actor niet te hebben kunnen identificeren. Het bedrijf verklaarde dat het informatie over de zaak had gedeeld met de relevante autoriteiten en met branchepartners, die volgens hen het best in staat zijn om een holistische beoordeling van de betrokkenheid te geven.