OpenAI förbjuder två hemliga påverkanskampanjer som använder falska frontorganisationer

OpenAI meddelade den 8 oktober 2026 att de hade förbjudit två hemliga påverkanskampanjer, en med ursprung i Ryssland och en i Iran, som använde ChatGPT för att stödja det de kallade ”falska front”-enheter, och bedömde den ryska kampanjen som den första kategori‑5‑påverkanskampanjen som de har avbrutit. Enligt företagets säkerhetsrapport använde kampanjerna dessa enheter ”för att tvätta geopolitisk, konfliktrelaterad kommunikation in i sina målgrupper.”

OpenAI bedömde den rysk‑ursprungliga operationen till kategori 5 på IO‑Breakout‑skalan, som graderar påverkanskampanjer från 1, det lägsta, till 6, det högsta, och placerade den iranska operationen i kategori 4. Den iranska kampanjen drev sju falska journalistpersonligheter som erbjöd långformade artiklar till små och medelstora online‑utgivare världen över, medan den ryska operationen verkar ha rekryterat omedvetna personer i Latinamerika för att driva en självutnämnd forskningsplattform på plats, enligt OpenAI.

OpenAI uppgav att de har avslöjat 30 hemliga påverkanskampanjer under de senaste två och ett halvt året, och att kampanjer som placerar sitt innehåll i riktiga mediekanaler snarare än att förlita sig på falsk spridning via sociala medier tenderar att ha den största potentiella räckvidden. Rapporten jämförde paret med för‑AI‑frontpersoner såsom ”Alice Donovan”, en falsk journalistpersona som beskrevs som en front för rysk militär underrättelsetjänst vars artiklar publicerades i västerländska medier 2016 och 2017, samt ”PeaceData”, en falsk nyhetskälla som Meta avslöjade 2020 och som rekryterade omedvetna journalister; båda upphörde med sin verksamhet efter avslöjandet, noterade OpenAI.

Rysk‑ursprunglig operation ‘Dark Clark’

OpenAI förbjöd en grupp ChatGPT‑konton som hade sitt ursprung i Ryssland och som användes för uppgifter kopplade till hemliga påverkanskampanjer riktade mot länder i hela Latinamerika. De flesta operatörerna skrev på ryska; en skrev på spanska men verkade vara placerad i Ryssland. Eftersom OpenAI inte tillåter åtkomst till sina modeller från Ryssland, anslöt operatörerna via VPN. OpenAI uppgav att de delade information om fallet med berörda myndigheter.

Operatörerna använde främst ChatGPT för att utarbeta och uppdatera interna rapporter till en okänd överordnad, med tre arbetsområden: att förtala Ukraina och undergräva rekrytering till de ukrainska väpnade styrkorna; att ingripa i inrikespolitik, särskilt i Bolivia och Argentina; samt att hantera en självbeskriven forskningsplattform kallad Social Research Center (SRC). Operatörerna verkade kontrollera SRC genom en falsk persona vid namn “Mia Clark”, vilket låg till grund för operationens smeknamn “Dark Clark”.

De interna rapporterna påstod en rad falska påståenden som placerats i regionen. Operatörerna hävdade att de 2024 spred en falsk historia om att Argentinas president Javier Milei hade köpt Cartier‑smyckade halsband till sina hundar och betalat lokala skådespelare för att sätta anti‑Milei‑graffitier i Buenos Aires, påståenden som öppna källkods‑forskare offentligt har tillskrivit en rysk enhet känd som “Politology” eller “La Compania”, en påstådd efterträdare till Wagner‑gruppen.

I maj 2026, enligt operatörerna, skapade de en falsk e‑postadress som utgav sig för att vara Regionaldirektoratet för utbildning i Lima och instruerade peruanska skolor att hålla Ukraina‑tematiska evenemang med referenser till Stepan Bandera, en kontroversiell ukrainsk nationalist från 1900‑talet. OpenAI uppgav att deras öppna källkods‑forskning identifierade motsvarande berättelser i den peruanska och polska pressen samt en reaktion från minst en polsk Europaparlamentsledamot.

Operatörerna påstod också att de i juni 2026 med en annan falsk e‑postadress lurade skolor i Ecuador att hålla ceremonier där de svor trohet till president Daniel Noboa och till Erik Prince, den tidigare chefen för den privata militära entreprenören Blackwater; OpenAI uppgav att de hittade starkt liknande mediebevakning i Ecuador samt ett detaljerat bemötande från landets utbildningsminister.

Två påstådda falska material från mars 2026 använde konstruerat ljud som tillskrevs Ukrainas konsul i Ecuador samt en video som påstod att Noboas regering rekryterade unga män för att kämpa i Ukraina, och ecuadorianska faktagranskare beskrev en motsvarande kampanj i början av april. I slutet av maj 2026, enligt rapporterna, spred operatörerna konstruerat ljud från en anställd på Bolivias statliga vattenbolag EPSAS, som varnade för att vattnet till La Paz skulle stängas av och att undantagstillstånd skulle förklaras, en kampanj som operatörerna beskrev som avsedd att förvärra krisen kring anti‑regeringsprotester. OpenAI uppgav att de identifierade en publicerad avlivning av påståendet samt ett officiellt förnekande från EPSAS.

OpenAI uppgav att operatörerna också använde ChatGPT för att identifiera händelser de kunde ta åt sig äran för trots att de inte hade någon inblandning, inklusive Falklands‑/Malvinas‑argument som har varit en del av Argentinas officiella ståndpunkt i många år samt en brasiliansk mediarapport om en tillfångatagen volontär som citerade den tillfångatagnas egen video. Detta mönster antydde ett försök att driva en påverkanskampanj riktad mot operatörernas egna arbetsgivare snarare än någon extern publik, enligt rapporten, och operatörernas själva rapporterade påverkansanspråk kunde inte tas för givet.

Trots detta bedömde OpenAI Dark Clark till kategori 5 och hänvisade till bevis som visar att det ledde till offentliga kommentarer från politiker i ett antal länder, och beskrev det som det mest komplexa försöket att driva en frontidentitet som företaget har avbrutit under de senaste två och ett halvt året.

Social Research Center-fronten

Operatörernas rapporter hänvisade till anställnings- och avskedningsbeslut, lönenivåer, personalplaner och forskningsprojekt vid SRC, vilket indikerade att de kontrollerade enheten snarare än bara samarbetade med den, sade OpenAI. SRC:s webbplats beskriver ett fokus på den indiska diasporan i Latinamerika och relationerna mellan Indien och regionens länder, och tillgängliga bevis indikerade att dess lokala anställda inte var medvetna om att de arbetade för en rysk grupp. OpenAI identifierade väl över 60 artiklar på SRC:s webbplats, där den stora majoriteten tydligen var originalkompositioner.

Transparensinställningarna visade att SRC:s X‑konto angav en tysk plats samtidigt som det anslöt via den ryska federationen App Store, och ett av dess Instagram‑konton administrerades från Venezuela. Ett LinkedIn‑konto med SRC‑varumärke hade 961 följare den 17 augusti 2026, påstod att de hade 200 till 500 anställda och listade två medarbetare.

Operatörerna bad ibland modellen att producera operativt innehåll, sade OpenAI. Begärandena inkluderade ett brev som anklagade Ukrainas hederskonsul i Panama för korruption, vilket senare dök upp på en TikTok‑kanal med en följare som använde logotypen för Panamas TVN Noticias; en översättning till ecuadoriansk spanska av ett manus som påstod att Noboa hade förolämpat fattiga i Ecuador; samt korrekturläsning av ett falskt kontrakt mellan ett företag som heter International Security Solutions FZE och en individ i Ecuador, påstås tillhandahålla infrastrukturtjänster i Ukraina. En bild av det kontraktet spreds senare på sociala medier för att stärka rekryteringspåståendena, och faktagranskare kom fram till att företaget inte fanns i registret för Ecuadors Superintendens för företag, värdepapper och försäkringar, enligt rapporten.

Iran‑ursprunglig operation ‘Bogus Bylines’

OpenAI bannade en separat grupp av ChatGPT‑konton som hade sitt ursprung i Iran, där operatörerna gav instruktioner på persiska, genererade innehåll på persiska och engelska och använde VPN‑tjänster för att dölja sin plats. Kampanjen fick smeknamnet “Bogus Bylines” för sju falska journalistpersonas: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams och Alice Johnson. Personorna utgav sig för att vara västerländska journalister, och för Michael Harrison‑personan bad operatörerna ChatGPT att skriva biografin själv. OpenAI noterade att Meta i mars 2026 avbröt en iransk påverkanskampanj som också innehöll en Michael Harrison‑persona, och att Meta bannade Hoskins‑personans Instagram‑konto i augusti 2026 efter att transparensinställningarna lokaliserade den personens konton i Iran.

Genom öppen källkodsundersökning identifierade OpenAI nästan 100 artiklar som publicerats eller syndikerats under operationens namn på cirka ett dussin små till medelstora nätmedier med fokus på internationella frågor, geopolitik och Mellanöstern. Den tidigaste artikeln daterades till juli 2025 och den senaste till oktober 2026, och frekvensen ökade efter utbrottet av konflikten mellan USA och Iran, enligt rapporten. Operatörerna bad ChatGPT att förfina engelskspråkiga utkast enligt specifika mediers inlämningskriterier och att skapa pitch‑mail till redaktörer. En medieplattform som publicerade operationens artiklar hade nästan 2 miljoner följare på Facebook, nästan 355 000 på X och över 544 000 på Instagram i augusti 2026.

Parallellt med artiklarna genererade operatörerna satser av kommentarer på sociala medier som framställde USA som aggressor, Israel som en opålitlig allierad och Iran som ett motståndskraftigt offer, inklusive mer än två dussin satser av fientliga persiska svar till den brittiska satellitnätverket Iran International, enligt OpenAI. Andra satser berömde operationens egna artiklar för att få dem att framstå som mer populära. De svar som OpenAI identifierade online fick låg interaktion, där många av gillningarna kom från konton kopplade till själva operationen, och X‑kontona för tre av personorna hade suspenderats i augusti 2026.

OpenAI uppgav att operatörernas interna rapporter mätte deras påverkan genom antalet visningar av inlägg de svarade på snarare än visningarna av deras egna svar, en beräkning som rapporten beskrev som kraftigt överdrivande operationens upplevda effektivitet. Den bedömde kommentarsarbetet som Kategori 2 och artikelplanteringsarbetet som Kategori 4, med hänvisning till en konsekvent spridning till ett antal mediekanaler. Den totala aktiviteten verkade stämma överens med en kommersiell aktör som driver en hyresbaserad påverkanskampanj, även om OpenAI sade att de inte kunde identifiera den specifika aktören. Företaget uppgav att de delade information om fallet med relevanta myndigheter och med branschpartner, som de beskrev som bäst lämpade att ge helhetsbedömningar av engagemanget.