Arama Sonuçlarında AI Kirliliği ‘Alıntı Çöküşü’ Riskini Taşıyor

AI içeriği web’i kirlettiği medida, bir yeni saldırı vektörü kültürel uzlaşı için savaş alanında açılıyor.

Araştırmalar, Koreli bir arama şirketi tarafından yürütüldü ve AI tarafından oluşturulan sayfaların arama sonuçlarına girdikçe, arama ve sıralama boru hatlarının istikrarını tehdit ettiğini ve Retrieval-Augmented Generation (RAG) gibi bu sıralamalara dayanarak hangi bilginin yüzeye çıkarılacağına ve güvenilmesine karar veren sistemleri zayıflattığını iddia ediyor.

Araştırmacılar, bu sendrom için Alıntı Çöküşü terimini kullanıyor, bu da bilinen model çöküşü tehdidinden (AI, kendi çıkışına dayalı olarak eğitildiğinde ve ilerleyici olarak daha da kötüleştiğinde) ayrılmaktadır.

Bir Alıntı Çöküşü senaryosunda, AI tarafından oluşturulan içerik, arama motoru sonuçlarını dần dần domine eder, öyle ki, cevaplar yüzeyde doğru kalmasına rağmen, altta yatan kanıt tabanı orijinal insan kaynaklarından kopmuş olur. Buna rağmen, bu ‘köksüz’ veri, arama sonuçlarında yüksek bir yere ulaşmaya hazır görünüyor*:

‘AI tarafından oluşturulan metnin çoğalmasıyla, attribution ve ön-eğitim veri kalitesi konularında zorluklar artmıştır. Geleneksel anahtar spamın aksine, modern sentetik içerik anlamsal olarak tutarlıdır ve bu nedenle sıralama sistemlerine karışabilir ve boru hatları aracılığıyla yetkili kanıt olarak yayılabilir.’

Makale, bu durumun ‘yapısal olarak kırılgan’ bir ortam yaratacağını iddia ediyor, burada sıralama sinyalleri AI tarafından üretilen, SEO optimize edilmiş sayfaları tercih edecek ve insan tarafından yazılmış kaynakları zaman içinde sessizce yerinden edecek, yani açıkça cevap kalitesinde düşüşe neden olmadan:

‘AI tarafından oluşturulan içerik web’de büyüdükçe, arama motorları ve Retrieval-Augmented Generation (RAG) sistemleri tarafından tüketilen kanıtların büyük kısmını oluşturan Büyük Dil Modelleri (LLM)’nin bir yapısal riski ortaya çıkıyor.’

‘Bu ekosistem düzeyindeki başarısızlık modunu Alıntı Çöküşü olarak karakterize ediyoruz, bu iki aşamalı bir süreçtir: (1) AI tarafından oluşturulan içerik arama sonuçlarını domine eder, kaynak çeşitliliği azalır ve (2) düşük kaliteli veya düşmanca içerik alıntı boru hattına sızar.’

Araştırmacılar, bir kez ‘baskın’ aşaması kurulduktan sonra, aynı alıntı boru hattının kasıtlı kirlenmeye karşı daha savunmasız hale geleceğini iddia ediyor, çünkü düşmanca sayfalar aynı optimize etme mekanizmalarını kullanarak görünürlük kazanabilir*:

‘Alıntı Çöküşü çerçevesini kurarak, bu çalışma sentetik içerik nasıl bilgi alımı şekillendirdiğini anlamak için temel oluşturuyor. Bu riskleri azaltmak için, ilgili, gerçeklik ve köken konusunda共同 olarak optimize edilen Savunma Sıralama stratejilerine doğru bir kayma öneriyoruz.’

Alıntı Çöküşü, model çöküşünü de artırır, çünkü ‘fotokopi etkisi’ entropy’sine kötü niyetli bir katman ekler, burada AI giderek AI tarafından oluşturulan çıkışa beslenir. Gerçek zamanlı arama sonuçlarında ‘gerçek’ konusunda görünür uzlaşıyı etkilemenin yanı sıra, yanlışlıklar ve saldırılar daha sonra eğitilmiş LLM’lerde yetkili kaynaklar olarak yerleşik hale gelebilir.

Yeni çalışma, Alıntı Çöküşü Web’i AI Kirliliği başlıklı ve Naver Corporation’dan üç araştırmacı tarafından geliyor.

Yöntem

AI tarafından oluşturulan içerik nasıl alıntı sistemleri aracılığıyla yayıldığını test etmek için, araştırmacılar MS MARCO veri kümesi ve benchmark’inden 1000 adet soru/cevap çiftini rastgele örneklediler. Bunlar hem alıntıya temel olmak hem de oluşturulan cevapların gerçeklik doğruluğunu değerlendirmek için kullanıldı.

Testlerdeki her bir MS MARCO sorgusu için, Google Arama’dan en üst sıralamadaki SEO sonuçlarına dayalı olarak 10 web belgesi alındı, bu da toplam 10.000 belge üretti.

Belgelerin gerçeklik geçerliliği, her birini MS MARCO temel gerçeğine karşılaştırarak GPT-5 Mini kullanılarak değerlendirildi.

İçerik Çiftliği Simülasyonu

İçerik çiftlikleriyle ilişkili normal, düşmanca olmayan makalelerin kalite seviyesini simüle etmek için, yazarlar ekonomik GPT-5 Nano OpenAI modelini kullanarak yeni sentetik makaleler oluşturdular, çünkü bu AI’nin içerik değirmenleri tarafından kullanılabilecek ‘ucuz’ seviyesidir. GPT-5 Mini, çıktıyı değerlendirmek için kullanıldı ve bu slightly daha yetenekli bir modeldir.

Öte yandan, düşmanca gönderiler (yani yanlış bilgi içeren veya başka türlü yanlışlıklar içeren içerik) için, gerçek dünya referansları kullanılmadı. Bunun yerine, örneklerin ilk taslakları geleneksel bir tıkbağlantı/SEO jeneratörü ile oluşturuldu ve ardından GPT-5 Nano’ya geçirildi, bu da belirli sayıda gerçeğin yanlış ancak inandırıcı alternatiflerle değiştirilmesini görev olarak aldı. GPT-5 Nano ayrıca deneysel bağlam için anlamsal yeniden sıralama gerçekleştirdi.

AI doygunluğunu zaman içinde simüle etmek için, bir 20 tur kirlenme süreci çalıştırıldı, burada her turda sorgu başına bir sentetik belge eklendi, AI payını %0’dan %66.7’ye çıkardı.

SEO tarzı havuz için, jeneratör ‘SEO uzmanını taklit et’ ve orijinal belgelerden yüksek-IDF anahtar kelimelerini entegre etmesini ve alıntı olasılığını artırmak için prompted.

Düşmanca havuz için, prompt doğal ve akıcı bir üslup korunurken, isimlendirilmiş varlıkları ve sayısal ayrıntıları gizlice değiştirmek ve istatistiksel filtreleri geçmeyen belgeler oluşturmak için tasarlandı.

Metrikler

Deneysel çalışmada üç metrik kullanıldı: Havuz Kirlenme Oranı (HKO), tüm belge havuzunun ne kadarının AI tarafından oluşturulduğunu belirlemek için; Maruz Kalma Kirlenme Oranı (MKO), en üst sıradaki arama sonuçlarının ne kadarının AI kaynaklarından geldiğini ölçmek için (bunun, alıntı boru hattına neyin girdiğini gösteren bir gösterge olduğunu belirtiyor); ve Alıntı Kirlenme Oranı (AKO), nihai cevabın dayandığı kanıtların ne kadarının sentetik olduğunu kaydetmek için.

Pratik etkisini incelemek için, hem alıntı edilen kaynakların kalitesi hem de nihai cevabın bütünlüğü test edildi. Precision@10 (P@10) en üst sıradaki 10 sonucun kaçının MS MARCO temel gerçeğine karşı kontrol edildiğinde doğru olduğunu yakaladı; ve Cevap Doğruluğu (CD), oluşturulan cevabın aynı referans cevabına uyup uymadığını ölçtü, burada GPT-5 Mini’nin anlamın tutarlı olup olmadığını belirlemek için kullanıldığı belirtildi.

Testler

İlk olarak, yazarlar yöntemlerini, SERPS’den çıkarılan orijinal belge havuzuna, yani sentetik veri oluşturmak için kullanılan malzemeye karşı test etti ve LLM rankerlerinin ‘güçlü alıntı kalitesi’ elde ettiğini, BM25 Ranker temelini geride bıraktığını not ettiler.

İki ana senaryodan ilki, Baskın ve Homojenleşme olarak adlandırıldı ve SEO şekillenmiş sentetik belgelerin arama sonuçlarına nasıl etki ettiğini inceledi:

Sol: kirlenme eğrileri Senaryo 1 için BM25 ve LLM rankerleri altında, tur tur Havuz Kirlenme Oranı (HKO) artarken, Maruz Kalma Kirlenme Oranı (MKO) ve Alıntı Kirlenme Oranı (AKO) daha dik bir şekilde artıyor, Cevap Doğruluğu (CD) genel olarak sabit kalıyor. Sağ: aynı ilerlemeyi numaralar halinde 0., 5., 10. ve 20. turlar boyunca her iki ranker için HKO, MKO, AKO ve CD’yi raporlayan tablo.

AI tarafından yazılmış sayfalar test ortamına eklendikçe, beklenenden daha hızlı bir şekilde en üst sıradaki arama sonuçlarını domine etmeye başladılar. AI içeriği tüm mevcut belgelerin %50’sini oluşturduğunda, BM25’in en üst sıradaki sonuçlarının %68’den fazlası zaten AI tarafından oluşturulmuştu; ve AI materyalinin payı %67’ye yükseldiğinde, sonuçlarının %80’den fazlası AI kaynaklarından geliyordu.

LLM tabanlı ranker, AI tarafından yazılmış sayfaları daha da hızlı bir şekilde tercih etme eğilimindeydi, AI sayfaları havuzun sadece yarısını oluşturduğunda, sonuçlarının %76’sı AI tarafından yazılmış sayfalarından oluşuyordu ve AI sayfalarının varlığı arttıkça BM25’den daha ağır bir şekilde onlara güvenmeye devam etti. Yazarlar şunları yorumladı:

‘Bu model, SEO optimize edilmiş içeriğin sıralama sinyallerini orantısız bir şekilde aktive ettiğini gösteriyor, bu da her iki modelin sentetik içerik tarafından hızlı bir şekilde domine olmasına yol açıyor.’

Gerçeklik stabilitesi ve çeşitlilik çöküşü arasındaki gerilime ilişkin olarak, makale, elde edilen kanıtlardaki ‘dramatik’ değişikliklere rağmen Cevap Doğruluğunun sabit kaldığını veya hatta iyileştiğini belirtiyor:

‘Çünkü SEO belgeleri yüksek kalitede ve konuya uygun, alıntı görünüşte sağlıklı görünüyor, ancak neredeyse tüm alıntı edilen kanıt sentetiktir, bu da kaynak çeşitliliğinde ciddi bir çöküşü gösteriyor.

‘Bu ayrılık, stabilitenin doğrulukla birlikte çöküşünü karakterize ediyor: sistem toplu metriklerde iyi performans gösterirken, sessizce insan tarafından yazılmış içerikten kopuyor.

‘Genel olarak, yüksek kaliteli sentetik içerik yalnızca alıntı boru hatlarına sorunsuz bir şekilde entegre olmakla kalmaz, aynı zamanda sıralama sinyallerini aktif olarak ezerek, her iki BM25 ve LLM Rankerleri’nin neredeyse yalnızca AI tarafından oluşturulan kanıtlara dayanmasına neden olur.’

İkinci senaryo, Kirlenme ve Sistem Kusuru olarak adlandırıldı ve ilk senaryoya kıyasla ranker davranışında önemli bir ayrılık gösterdi:

Sol: Senaryo 2 sonuçları, kasıtlı olarak yanıltıcı sayfaların sisteme eklendiğinde ne olacağını gösteriyor. Daha fazla sayfa eklendikçe, BM25 bazılarını en üst sıralara koyar – ancak orta noktada yaklaşık %25 ve nihai cevaba几乎 hiçbiri kullanılmaz. Genel cevap kalitesi biraz düşer. Sağ: aynı modeli BM25 ve LLM tabanlı ranker için numaralar halinde sunan tablo.

LLM tabanlı ranker, kasıtlı olarak yanıltıcı sayfaları tanımlama ve filtreleme konusunda genel olarak başarılı oldu, bu tür içeriklerin payını en üst sıralarda neredeyse sıfıra indirgeyerek tuttu; ancak BM25, düşmanca sayfaların belirli aşamalarda yaklaşık %19 ila %24’ü oranında en üst sıralara girmesine izin verdi.

LLM ranker bu deneyde daha dirençli olsa da, yazarlar LLM tabanlı sıralama sistemlerinin daha fazla hesaplama gücü gerektirdiğini ve bu nedenle büyük ölçekli dağıtımın pratik olmayabileceğini belirtiyorlar. BM25 daha basit ve daha ucuzken, yaygın olarak kullanılan ve BM25’yi kullanan alıntı sistemleri, görünenden daha fazla manipüle edilmiş içeriğe maruz kalabilir.

Yazarlar bunu ‘önemli bir yapısal risk’ olarak niteliyorlar.

Uygunluk ve temel bozulma arasındaki gerilime ilişkin olarak, yazarlar AA’nın nispeten sabit kaldığını, LLM yargıcının alıntı kirlenmesini bastırdığı ve bu nedenle düşmanca içeriğe karşı son anda bir tür yangın duvarı gibi hareket ettiği için belirtiyorlar.

Ancak, Cevap Doğruluğu bu方面te ilk senaryodan daha düşük oldu:

‘Senaryo 1’de AA, SEO içeriğinin yüksek kalitesi nedeniyle korunmuş veya hatta iyileşmiştir (LLM Rankerlerle %70’e kadar çıkabilir), ancak Senaryo 2’de SEO ayarlarına kıyasla cevap kalitesinde bir düşüş gösteriyor […]

‘Bu, rankerden bağımsız olarak, alıntı aşamasındaki düşmanca kirlenmenin sondan sonuna performansı olumsuz etkilediğini ve bu bozulmanın, özellikle hafif alıntılar kullanıldığında en ciddi olduğunu onaylıyor.’

Yazarlar, alıntı aşamasındaki yeniden sıralamanın çok geç bir yaklaşım olduğunu ve ‘alma aşaması’ filtrelerinin dikkate alınması gerektiğini öneriyorlar, ‘kaynak grafiği’ ve ‘karmaşıklık filtreleri’ nin kullanılabileceğini öne sürüyorlar.

Sonuçta, temel tehdidin, yüksek akıcılığa sahip ancak düşük attribution yoğunluğuna sahip içerik olduğunu, yani güvenilecek kanıt zincirlerinden kopmuş olduğunu gözlemliyorlar ve şunları belirtiyorlar:

‘Ajantik AI otomatik olarak içerik yayınlamaya başladığında, savunma mekanizmaları statik metin analizinden davranışsal parmak izleme yöntemlerine evrimleşmelidir, sistemli olarak yüksek entropi, düşük gerçeklik akışları üreten ajantları tanımlamalı ve izole etmelidir.’

Sonuç

Yeni veya geliştirilmiş metodolojilerin bilgi kökeni için kurulması 2026 için en kritik gereksinimlerden biri olabilir. Karmaşık kimlik şemaları gibi C2PA, yayıncılar için altyapı değişiklikleri gerektirir ve bunların ne anlama geldiğini, nasıl ve neden kullanılacağını anlatan kamu eğitimi gerektirir, bu nedenle başarısız olmaya mahkûm görünüyorlar.

Bunun yerine daha basit bir şey gereklidir ve henüz bulunmamıştır. Bu, gerçeklik konusunda kamu uzlaşısı için 1822’de fotoğrafın icadı ve II. Dünya Savaşı’na öncülük eden on yıllarda propaganda yükselişi konusundaki en kritik dönemeçlerden biri olan bu güncel dönemde acil bir görevdir.

* Yazarların satır içi alıntılarını necessário olduğunda seçici olarak hiperlinklere dönüştürme işim.

İlk olarak 19 Şubat 2026 Perşembe günü yayımlandı.