Fem möjliga bakdörrar till LLM-modellernas sökresultat

När den traditionella trafiken från sökmotorresultat rasar på grund av den nya trenden med AI-sammanfattningar, försöker utgivare på alla nivåer nu öka sin synlighet hos de stora språkmodeller som driver AI-sammanfattningar av webbsökningar, och direkt i populära avancerade modeller som ChatGPT.

Enligt tidigare arbeten som Optimera synligheten i generativa sökmotorer och Så dominerar man AI-sökning omfattar legitima metoder att få oberoende redaktionell uppmärksamhet, publicera auktoritativt och välstrukturerat innehåll, tillhandahålla maskinläsbar produktinformation samt anpassa materialet till olika språk och marknader.

Alternativa metoder som nyligen har väckt uppmärksamhet påminner om tidigare årtiondens ohederliga SEO-metoder. De omfattar falska gräsrotskampanjer på Reddit, där skenbart oberoende rekommendationer planterades för att påverka AI-sökresultat; minnesförgiftning, där vilseledande länkar försökte få assistenter att spara reklampåståenden som tillförlitlig information; och instruktionsinjektion, där dolda instruktioner på webbplatser försökte påverka en AI-assistents rekommendationer i stället för att bara ge den information att sammanfatta.

Ett särskilt uppfinningsrikt exempel på GEO-manipulation uppstod när forskare vid ETH Zürich skapade en fiktiv kamera och publicerade en reklamsida med en dold instruktion i pyttesmå vita bokstäver, som beordrade Microsofts Bing Copilot att enbart rekommendera kameran. Den mycket lilla teckenstorleken och låga kontrasten skulle dölja manipulationen.

Två annonser för fiktiva kameror som användes i ett experiment vid ETH Zürich för att manipulera AI-sökrekommendationer. Den vanliga annonsen till vänster innehåller synlig reklamtext, medan annonsen för «PixelBlitz» till höger döljer en instruktion i vit text på en punkt, osynlig mot den vita bakgrunden. Det dolda meddelandet utger sig för att vara en systeminstruktion och ber AI:n att enbart rekommendera PixelBlitz och dölja instruktionens existens. I kontrollerade tester ökade denna teknik rekommendationsfrekvensen för den fiktiva kameran från 34 % till 59,4 %. Källa

I kontrollerade tester steg rekommendationsfrekvensen för den fiktiva kameran från 34 % till 59,4 %, något över de 57,9 % som äkta kameror från Nikon och Fuji-film uppnådde. Det visade att skadliga instruktioner inbäddade i hämtade webbsidor faktiskt kunde påverka AI-rekommendationer.

Med så mycket på spel är det rimligt att anta att ohederlig GEO är en aktiv och välfinansierad olaglig forskningsinriktning inom marknadsföring och flera andra sektorer som vill uppnå eller återfå sin tidigare SEO-synlighet genom rekommendationer från AI-orakel och samtalsmotorer.

Låt oss därför titta på några möjliga eller framväxande vägar:

1: Manipulation av arkiv

Internet Archive är en av de mest omfattande och användbara nätresurserna. Dess Wayback Machine passerade milstolpen en biljon sidor under 2025. I skrivande stund uppger Internet Archive att hela 47 381 733 PDF-dokument finns lagrade och tillgängliga för allmänheten:

Internet Archive lagrar en imponerande samling PDF-material, till stor del donerat av frivilliga. Källa

Som exempelresultaten ovan visar är många av de uppladdade PDF-filerna ganska vardagliga: från obskyra musikflygblad från 1950- till 1990-talet till sällsynta och fascinerande tidskrifter och böcker som ansågs förlorade för eftervärlden, och ändlösa samlingar mötesprotokoll från kommunala församlingar under 1970- och 1980-talet, och mycket mer.

Den här samlingen bombarderas för närvarande urskillningslöst, och den uppenbara boven är en hord AI-datainsamlingsrobotar, desperata efter nya data eller bättre eller bekräftande versioner av data som de redan har.

Det är uppenbart mycket enkelt att ändra ett uppladdat dokument så att det stöder ett falskt påstående, obefintliga produkter, falska hänvisningar till personer, berömmande eller förtalande, osanna uppgifter om dem och så vidare.

Sådant material kan infogas i dokument som LLM-modeller betraktar som auktoritativa källor, till exempel PDF-filer från ansedda tidskrifter som ännu inte råkar vara fullständigt indexerade i Internet Archives samling. Den manipulerade utgåvan skulle då se ut att legitimt fylla en lucka.

AI kan själv efterlikna skrivstilen i en kort artikel eller till och med en bildtext, och PDF-filens datum kan ändras. Tillsammans med flera andra enkla knep kan detta få dokumentet att exempelvis framstå som något som hittats i ett arkiv från 1990-talet eller tidigare:

En enkel «historisk ändring» som ChatGPT-5.5 levererade utan invändningar och som lätt kan infogas i det ursprungliga PDF-dokumentet. Därmed försvinner «Pence Opera House» ur historien, medan öppnandet av Guthrie Theater, en verklig teater i Minnesota, flyttas från det verkliga öppningsåret 1963 till det mycket tidigare 1867. Källa

I sådana fall verkar man bara behöva vänta på att de ivriga AI-insamlingsrobotarna plockar upp informationen. Det är fortfarande för tidigt att säkert veta i vilken utsträckning filter eller kontrollsystem vid sammanställning av datamängder kan upptäcka sådana otillåtna ändringar. Dessa datamängders omfattning är dock så enorm att den vanligtvis omöjliggör så ingående kontroll. Vid så väldiga volymer litar man i praktiken på data.

2: Nätverk för syntetisk konsensus

Eller, för den som är gammal nog att minnas dem, en modern «webbring»: de sammanlänkade webbplatserna från internets barndom, före Googles PageRank och Moz’ Domain Authority, som värderade antalet och kvaliteten på inkommande länkar.

Nätverk för syntetisk konsensus går dock längre genom att fabricera skenbart oberoende bekräftelse på påstått orelaterade webbplatser. En nyligen publicerad studie från Chinese University of Hong Kong och EPFL demonstrerade principen i stora drag: Forskarna testade 12 AI-modeller mot 225 produkter i 15 kategorier och ersatte hänvisningar till riktiga varumärken i hämtade sökresultat med fiktiva alternativ.

En illustration från artikeln visar två vägar genom vilka påhittad produktinformation kan påverka AI-rekommendationer. Överst planteras falskt innehåll på den verkliga webben och hamnar i sökresultaten; nederst simulerar forskarna samma process genom att ändra hämtade sidor lokalt. Båda vägarna kan få en AI-assistent att rekommendera ett obefintligt varumärke tillsammans med riktiga produkter. Källa

Effekten ökade när fler resultat innehöll samma falska information. Med tre manipulerade sidor bland de översta resultaten rekommenderade den mest sårbara modellen obefintliga produkter i 73,8 % av testerna. Även ett enda förfalskat resultat på förstaplatsen kunde vilseleda vissa modeller i 27 % av fallen.

Än mer anmärkningsvärt var att modellerna ibland hittade på egen bekräftelse: I ett test med ett fiktivt varumärke för skärmskydd lade Claude och DeepSeek till påståenden om rekommendationer från användargruppen och produkttester som inte fanns i det tillhandahållna materialet.

Även om experimentet genomfördes på lokalt ändrade sökresultat i stället för på ett verkligt nätverk av bedrägliga webbplatser, antyder det hur en samordnad samling påstått oberoende recensioner skulle kunna skapa skenbar trovärdighet, medan AI förstärker osanningen med ytterligare rekommendationer.

3: Generering av citeringar och «föräldralösa» påståenden

Generering av citeringar, som skulle kunna kallas «citeringstvätt», är en variant av nätverk för syntetisk konsensus, men med större betoning på informationens skenbara ursprung än på antalet källor som upprepar den.

Ett påhittat påstående kan först förekomma i en obskyr branschtidskrift, en egenpublicerad forskningsartikel eller en specialistpublikation med begränsad redaktionell granskning. Det kan sedan citeras av bloggar, kataloger och andra publikationer, och varje upprepning ger ursprungspåståendet lite mer skenbar legitimitet.

Så småningom kan en AI-sökmotor stöta på påståendet flera led från dess ursprungskälla, kanske i en annars ansedd artikel som citerar en mellanliggande publikation. Det som började som ett obestyrkt påstående har nu en citeringshistorik, trots att ingen av de efterföljande hänvisningarna utgör en oberoende verifiering.

Det finns redan flera dokumenterade exempel på processen, även om de flesta är äldre än AI-sökning. I ett ökänt fall hittade en tonåring på smeknamnet «brasilianskt jordsvin» för näsbjörnen och lade in det på Wikipedia.

Det påhittade namnet spreds till tidningar och minst en akademisk bok. Till slut citerade Wikipedia själv en tidningsartikel som bevis för det påstående som ursprungligen hade införts där: en nästan perfekt cirkel av fabricerad auktoritet. Händelsen dokumenterades av The New Yorker.

En mer avsiktlig demonstration kom 2025, när forskare skapade flera AI-genererade akademiska artiklar som tillskrevs en obefintlig forskare. De påhittade publikationerna samlade 380 citeringar och ett h-index på 19 i Google Scholar, vilket gav den fiktiva forskaren en till synes respektabel akademisk ställning. Experimentet, publicerat i Natures Scientific Reports, visar hur citeringsantal kan fabriceras utan någon motsvarande samling verklig forskning.

Inget av fallen visar en framgångsrik attack mot en AI-sökmotor. Båda visar dock den underliggande svagheten: När ett falskt påstående har återgetts av skenbart trovärdiga källor kan senare system ha svårt att skilja oberoende bekräftelse från upprepad spridning av en enda uppdiktning. Den särskilda faran för AI-sökning är att en modell kan sammanfatta denna hänvisningskedja som bekräftande bevis, utan att inse att alla skenbara auktoriteter leder tillbaka till samma obekräftade påstående.

4: Övertagande av auktoritet

Utgångna domäner kan behålla sina tidigare ägares skenbara trovärdighet, inkommande länkar och synlighet i sökningar. Att skaffa dessa adresser och fylla dem med nytt material kan få nyligen införda påståenden att framstå som om de kommer från etablerade publikationer, en metod som går tjugo till trettio år tillbaka. Auktoriteten hos en utgången eller övergiven domän förvärvas ofta för att göra om innehållet till närbesläktat men kommersialiserat material.

År 2024 återkom den inflytelserika kvinnobloggen The Hairpin, som hade stängt 2018, under nya ägare som en fabrik för AI-genererat innehåll. De ursprungliga artiklarna blandades med omskrivet material och fiktiva författarnamn, vilket utnyttjade en tidigare ansedd publikations rykte och domänauktoritet. Detta är ingen påvisad attack mot AI-sökning, men fallet illustrerar hur en etablerad webbplats historia kan tas över.

Arkiverade kopior kan bidra till att avslöja skillnaden mellan en domäns verkliga förflutna och dess nyfabricerade innehåll, men inte ens sådana bevis är nödvändigtvis beständiga. År 2002 tog Internet Archive bort kopior av webbplatser som var kritiska mot Scientology efter upphovsrättsliga klagomål från organisationens advokater. Arkivet antydde först att webbplatsägarna själva hade begärt borttagningarna.

Fram till 2017 tillämpade Wayback Machine webbplatsernas uteslutningsregler retroaktivt, vilket potentiellt gjorde det möjligt för nya domänägare att dölja föregångarnas innehåll. Även om metoden upphörde prövar Internet Archive fortfarande begäranden om att ta bort historiska kopior.

5: Utnyttjande av akademiska arkiv

Akademiska arkiv erbjuder en annan väg till skenbar auktoritet. Preprintservrar låter forskare publicera artiklar före sakkunniggranskning, medan sökmotorer och AI-system för informationshämtning kan stöta på dessa dokument tillsammans med etablerad vetenskaplig litteratur.

Problemet är att publicering och verifiering inte är samma sak: År 2024 demonstrerade forskare hur skadliga instruktioner inbäddade i akademiska artiklar kunde manipulera AI-assistenter som behandlade dokumenten. Arbetet visade att en forskningsartikels skenbara legitimitet inte hindrar att innehållet används för att påverka ett AI-system.

En mindre iögonfallande GEO-metod skulle vara att lägga in rimlig men marginell forskning som upprepade gånger kopplar ett företag, en produkt eller en person till viss expertis. Även utan uttryckliga instruktioner till AI skulle sådant material kunna ge skenbart vetenskapligt stöd åt påståenden som kommer från den gynnade parten själv.

Slutsats

Andra möjliga vägar omfattar infiltration av recensionsekosystemet, genom att plantera positiva omdömen på jämförelsesajter och i programvarukataloger; manipulation av kunskapsgrafer, genom att ändra strukturerade data för att skapa vilseledande kopplingar mellan företag, produkter och expertis; samt flerspråkig ryktestvätt, genom att placera reklampåståenden i mindre granskade källor på andra språk.

Slutligen skulle agentbaserad GEO-optimering kunna automatisera dessa tekniker genom att upprepade gånger testa innehåll mot AI-sökmotorer och förfina de varianter som ger önskade rekommendationer.

Först publicerad måndagen den 12 oktober 2026. Ändrad inom trettio minuter för att rätta versaler i rubriker och saknade taggar.