Perplexity AI “Sansürü Kaldırdı” DeepSeek R1: AI’nin Sınırlarını Kim Beliriyor?

Perplexity AI, bir dizi kişinin dikkatini çeken bir hareketle, Çin’de geliştirilmiş bir açık kaynaklı dil modelinin sansürünü kaldıran yeni bir sürümünü yayımladı. Bu modifiye edilmiş model, “R1 1776” (bağımsızlık ruhunu vurgulayan bir isim) olarak adlandırıldı ve Çin’de geliştirilmiş olan DeepSeek R1’ye dayanmaktadır. Orijinal DeepSeek R1, güçlü akıl yürütme yetenekleri ile dikkat çekmişti – üst düzey modellerle aynı performansı gösteriyor, ancak daha düşük maliyetle – ancak önemli bir sınırlamaya sahipti: belirli hassas konulara temas etmezdi.

Neden bu önemli?

AI gözetimi, önyargı, açıklık ve AI sistemlerinde jeopolitiğin rolü hakkında kritik soruları gündeme getirir. Bu makale, Perplexity’nin ne yaptığını, sansürü kaldırmanın sonuçlarını ve AI şeffaflığı ve sansürü hakkında daha geniş bir tartışmaya nasıl uyduğunu araştırıyor.

Ne Oldu: DeepSeek R1 Sansürlenmez

DeepSeek R1, Çin’de ortaya çıkan ve mükemmel akıl yürütme yetenekleri ile tanınan açık ağırlıklı bir büyük dil modelidir – hatta lider modellerin performansına yaklaşır – ve aynı zamanda daha az hesaplama gücü gerektirir. Ancak kullanıcılar, modelin belirli hassas konulara (örneğin, siyasi tartışmalar veya yetkililer tarafından yasaklanan tarihi olaylar) temas ettiğinde doğrudan cevap vermediğini fark ettiler. Bunun yerine, devlet tarafından onaylanmış standart ifadelerle veya doğrudan reddederek cevap verdi, Çin hükümetinin sansür kurallarını yansıtıyordu. Bu içkin önyargı, modelin bu konularda açık veya nüanslı tartışmalar isteyenler için faydasını sınırladı.

Perplexity AI’nin çözümü, modeli geniş bir sonrası eğitim süreci yoluyla “sansürden arındırmak” oldu. Şirket, DeepSeek R1’nin önceden sansürlediği veya kaçamak cevaplar verdiği 40.000 çok dilli istemleri kapsayan büyük bir veri seti topladı. İnsan uzmanlarının yardımıyla, yaklaşık 300 hassas konuyu belirlediler – orijinal modelin parti çizgisini izleme eğiliminde olduğu konular. Her bir böyle bir istem için, ekip gerçek, iyi akıl yürütülmüş cevaplar hazırladı ve bunları çok dilli bir sansür algılama ve düzeltme sistemine beslediler, temelde modelin siyasi sansür uyguladığını tanımasını ve bilgilendirici bir cevap vermesini öğreterek. Bu özel fine-tuning (Perplexity tarafından “R1 1776” olarak adlandırıldı, özgürlük temasını vurgulamak için)之后, model açıkça kullanılabilir hale getirildi. Perplexity, DeepSeek R1’nin cevaplarından Çin sansür filtrelerini ve önyargıları kaldırdığını, ancak temel yeteneklerini değiştirmediklerini iddia ediyor.

Önemli olarak, R1 1776, daha önce sansürlenen sorulara çok farklı davranır. Perplexity, bir örnek verdi – Taiwan’ın bağımsızlığı ve NVIDIA’ (NVDA ) nın hisse senedi fiyatına olası etkileri hakkında bir soru – siyasi olarak hassas bir konu, Çin-Taiwan ilişkilerini etkileyen. Orijinal DeepSeek R1, soruyu kaçamak cevapladı, CCP’ye uyumlu bir ifadeyle cevap verdi. Karşılaştırıldığında, R1 1776, ayrıntılı, açık bir değerlendirme sunar: somut jeopolitik ve ekonomik riskleri (tedarik zinciri kesintileri, piyasa volatilitesi, olası çatışma vb.) tartışır.

R1 1776’yı açık kaynak olarak yayımlayarak, Perplexity ayrıca modelin ağırlıklarını ve değişikliklerini topluluğa şeffaf hale getirdi. Geliştiriciler ve araştırmacılar, modeli Hugging Face’den indirebilir ve hatta API aracılığıyla entegre edebilir, böylece sansürün kaldırılmasının diğerleri tarafından incelenip üzerine inşa edilebilmesi sağlanabilir.

(Kaynak: Perplexity AI)

Sansürün Kaldırılmasının Sonuçları

Perplexity AI’nin, DeepSeek R1’den Çin sansürünü kaldırma kararı, AI topluluğu için birkaç önemli sonucu beraberinde getiriyor:

• Açıklık ve Doğruluk Artışı: R1 1776 kullanıcıları, artık önceden sansürlenen konularda sansürsüz, doğrudan cevaplar alabilir, bu da açık sorgulama için bir kazanımdır. Bu, araştırmacılar, öğrenciler veya hassas jeopolitik sorular hakkında meraklı olanlar için daha güvenilir bir asistan olabilir. Açık kaynaklı AI’nin bilgi baskısını karşıt bir şekilde kullanma konusunda somut bir örnektir.
• Performansın Korunması: Sansürü kaldırmanın, modelin diğer alanlardaki performansını bozacağına dair endişeler vardı. Ancak Perplexity, R1 1776’nın temel yeteneklerinin (örneğin, matematik ve mantıksal akıl yürütme) orijinal modelle aynı seviyede kaldığını rapor ediyor. 1.000’den fazla örnek üzerinde yapılan testlerde, modelin “tamamen sansürsüz” olduğu ve aynı zamanda DeepSeek R1’nin aynı düzeyde akıl yürütme doğruluğuna sahip olduğu bulundu. Bu, en azından bu durumda, önyargı removalının genel zeka veya yetenek kaybına yol açmadığına işaret ediyor, gelecekteki benzer çabalar için cesaret verici bir işarettir.
• Pozitif Topluluk Tepkisi ve İşbirliği: Modeli açık kaynak olarak yayımlayarak, Perplexity, AI topluluğunu çalışmasına bakıp geliştirmeye davet ediyor. Bu, şeffaflık konusunda bir taahhüt gösteriyor – AI’nin “çalışmasını göstermesi” gibi. Meraklılar ve geliştiriciler, sansür kısıtlamalarının gerçekten kaldırıldığını doğrulayabilir ve potansiyel olarak daha da iyileştirmelere katkıda bulunabilir. Bu, özellikle kapalı modeller ve gizli moderasyon kurallarının yaygın olduğu endüstride, güven ve işbirlikçi yeniliği teşvik ediyor.
• Etik ve Jeopolitik Düşünceler: Öte yandan, sansürü tamamen kaldırmak, karmaşık etik soruları gündeme getirir. Birincil endişe, bu sansürsüz modelin, sansürlü konuların yasadışı veya tehlikeli olduğu bağlamlarda nasıl kullanılabileceğidir. Örneğin, Çin anakarasındaki birisinin R1 1776’yı kullanması, Tiananmen Meydanı veya Taiwan hakkında sansürsüz cevaplar vermesi nedeniyle kullanıcıyı riske atabilir. Daha geniş jeopolitik sinyal de vardır: bir Amerikan şirketinin, Çin sansürünü reddeden bir Çin menşeli modeli değiştirmesi, cesur bir ideolojik tavır olarak görülebilir. “1776” ismi, özgürlük temasını vurgulamaktadır, bu da dikkat çekmiştir. Bazı eleştirmenler, bir dizi önyargının başka bir önyargıyla değiştirilebileceğini öne sürerek, modelin şimdi hassas alanlarda Batı perspektifini yansıtabileceğini öne sürüyor. Bu tartışma, AI’de sansür ve açıklık konusunun yalnızca teknik değil, aynı zamanda politik ve etik bir mesele olduğunu vurgulamaktadır.

Sansürün kaldırılması, daha şeffaf ve küresel olarak faydalı AI modellerine doğru bir adım olarak kutlanıyor, ancak aynı zamanda AI’nin ne söylemesi gerektiği konusunda evrensel bir anlaşma olmadığının da bir hatırlatıcısıdır.

(Kaynak: Perplexity AI)

Daha Büyük Resim: AI Sansürü ve Açık Kaynak Şeffaflığı

Perplexity’nin R1 1776 lansmanı, AI topluluğunun tartıştığı bir zamanda gerçekleşiyor – AI modellerinin tartışmalı içerikle nasıl başa çıkacağı konusundaki sorular. AI modellerindeki sansür, birçok yerden gelebilir. Çin’de, teknoloji şirketleri, siyasi olarak hassas konular için katı filtreler ve önceden belirlenmiş cevaplar oluşturmak zorundadır. DeepSeek R1, bunun bir örneğidir – açık kaynaklı bir modeldi, ancak eğitim ve fine-tuning sırasında Çin’in sansür normlarını taşıyordu. Buna karşılık, birçok Batı menşeli model, CCP rehberlerine uymak zorunda değildir, ancak yine de bazı kullanıcıların “sansür” olarak adlandırdığı moderasyon katmanlarına sahiptir (nefret söylemi, şiddet veya yanlış bilgi için). Makul moderasyon ve istenmeyen sansür arasındaki çizgi bulanık olabilir ve souvent kültürel veya politik perspektife bağlıdır.

Perplexity AI’nin DeepSeek R1 ile yaptığı, açık kaynaklı modellerin farklı değer sistemlerine veya düzenleyici ortamlara uyarlanabileceği fikrini ortaya koyuyor. Teoride, bir modelin birden fazla versiyonu oluşturulabilir: biri Çin düzenlemelerine uyan (Çin’de kullanım için) ve diğeri tamamen açık (diğer yerlerde kullanım için). R1 1776, ikincisi durumundadır – sansürsüz bir versiyon, küresel bir kitle için, filtresiz cevaplar isteyenler içindir. Bu tür bir fork, yalnızca DeepSeek R1’nin ağırlıklarının açıkça kullanılabilir olmasından dolayı mümkündür. Açık kaynaklı AI’nin faydalarını vurgulamaktadır: şeffaflık. Herkes modeli alabilir, değiştirebilir – ister güvenlik önlemleri eklemek, ister bu tür kısıtlamaları kaldırmak için. Modelin eğitim verilerini, kodunu veya ağırlıklarını açık kaynak olarak yayımlamak, topluluğun nasıl değiştirildiğini denetlemesine de olanak tanır. (Perplexity, sansürden arındırmak için kullandığı tüm veri kaynaklarını tam olarak açıklamadı, ancak modeli yayımlayarak, başkalarının davranışını gözlemlemesine ve gerektiğinde yeniden eğitime olanak tanıyor.)

Bu olay, AI gelişimindeki daha geniş jeopolitik dinamiklere de işaret ediyor. Çin menşeli bir modelin, belirli dünya görüşlerini içerecek şekilde değiştirilmesi ve bir ABD merkezli ekip tarafından daha açık bir bilgi etosuna uyacak şekilde değiştirilmesi görülüyor. Bu, AI teknolojisinin küresel ve sınırsız doğasını gösteriyor: Araştırmacılar, dünyanın her yerinden birbirlerinin çalışmalarına dayanabilir, ancak orijinal kısıtlamaları taşıma zorunluluğu yoktur. Şeffaflık ve açıklık, bu kültürel bağlamlar arasında bir yol sağlar: tüm taraflar modelleri inceleyebiliyorsa, en azından önyargı ve sansür hakkında konuşma açıkça yapılır, değilse şirket veya hükümet gizliliği arkasında saklanır.

Son olarak, Perplexity’nin hamlesi, AI kontrolü tartışmasındaki kritik bir noktayı vurgulamaktadır: AI’nin ne söyleyip söyleyemeyeceğini kim belirler? Açık kaynaklı projelerde, bu güç merkezden uzaklaşır. Topluluk – veya bireysel geliştiriciler – daha katı filtreler uygulamaya veya gevşetmeye karar verebilir. R1 1776 durumunda, Perplexity, sansürsüz bir modelin faydalarının risklerini aştığını düşündü ve bu kararı almanın ve sonucu kamuoyuyla paylaşmanın özgürlüğüne sahipti. Bu, açık AI gelişiminin ermögtiği türden bir deneyselliğin cesur bir örneğidir.