Yapay zekâ modellerinin sansürünü kaldırmaya yönelik gerçek bir baskı ne zaman başlar?

1995–2010 yılları arasındaki warez sahnesini hatırlayacak kadar büyükseniz, kırılmış yazılımlardan ve kopyalanmış filmlerden oluşan geniş koleksiyonların (sokak piyasasından toptan satın alınan ya da yüksek hızlı geniş bant bağlantılar devasa ve yüksek hacimli indirmeleri mümkün kılınca amatör korsanlarca bir araya getirilen) birden çok, ağzına kadar dolu DVD koleksiyonunda biriktiği o dönem, ortaya çıkmakta olan “sansürden arındırılmış” açık kaynaklı yapay zekâ modelleri sahnesi size tanıdık gelebilir.

Yazılım ve filmlerin sokaklarda elden ele satıldığı “altın çağdan”. Görsel: Shankar.s. “PP sokak pazarında korsan DVD’ler” – Kaynak / Lisans

Yazılım kiralamanın tüketiciler arasında yaygınlaşmasından önce, uygulamaların korumasını kıran küçük ama seçkin bir “warez” meraklıları grubu ortaya çıkmıştı. Bu uygulamalar önce “warez” haber gruplarında, daha sonra torrent gruplarında dolaşıma sokuluyordu. Bu kısıtlamaları aşmak zahmetli ya da kolay olabiliyordu; ancak koruma kırılmış yazılımlar bir kez dolaşıma girdiğinde bu ihlaller genellikle kalıcı oluyordu.

Açık kaynaklı Büyük Dil Modellerinde (LLM’ler) bugün yaşanan da bu: modellere eğitim sırasında kazandırılmış güvenlik filtreleri düzenli olarak ve büyük ölçekte kaldırılıyor. Ardından sansürü kaldırılmış bu modeller öylesine çok yerde paylaşılıyor ki, “koruma kırma” işleminin kaynağını kapatmak bile modellere erişilebilirliği etkilemiyor.

İyilik mi, kötülük mü?

Asıl soru şu: Bu faaliyetlere nasıl bakmak istiyorsunuz? Warez dünyasının aksine, 20-30 yıl önce küçük yazılım üreticilerinin muhtemelen uğradığı ölçüde açıkça gelir kaybına uğratılan kimse yok.

Elbette bu tür durumlarda orijinal lisans koşulları sıklıkla ihlal ediliyor*; ancak Black Forest Labs gibi üretken yapay zekâ modeli üreticilerinin ağırlıkların bir kısmını içeren sürümlerinin aksine, orijinal dağıtımcılar “daha düşük kaliteli” sürümleri daha yetenekli, yalnızca API üzerinden sunulan modellere geçiş yolu olarak kullanmıyor; modellerin tamamını doğrudan yayımlıyor.

Çoğu durumda, ilk yayımlanan bu modelleri yerel olarak neredeyse hiç kimse çalıştıramıyor; çünkü 16-24 GB VRAM kapasitesine sahip, iyi donanımlı GPU kartlarında bile parametre sayıları fazlasıyla yüksek.

Bu nedenle ilk yayımlanan modeller, model niceleme ve ağırlıkların GGUF, AWQ, PTQ, EXL2 ya da Apple odaklı MLX gibi daha hafif biçimlere dönüştürülmesi yoluyla, tüketici donanımlarında çalışabilecek küçültülmüş sürümlere hızla dönüştürülüyor.

Bunlar, genellikle çeşitli GPU çiftliklerinde ticari olarak sunulacak orijinal, tam ölçekli modeller kadar yüksek performanslı olmasa da en azından kullanıcının denetimindedir ve “daha iyi” modelde mümkün olmayan şekillerde, kullanıcının özel ihtiyaçlarına göre uyarlanabilir.

Tam da İstediğiniz Gibi

Bu uyarlama yollarından bazıları açıkça meşrudur ve genellikle üst kaynağın lisans kapsamındadır. Bunlardan biri olan ince ayar, kullanıcının modele eklediği hedef görev ya da alana yönelik olarak modelin ağırlıklarını özelleştirir. Böyle bir durumda, sabit disk alanı elverdiği sürece açık kaynaklı bir modelin farklı görevler için birden fazla örneğine ayrı ayrı ince ayar yapmak, üst kaynaktaki tüm ağırlıkları içeren modeli bir “İsviçre çakısı” gibi kullanmak yerine, her biri belirli bir işe ayrılmış geleneksel araçlardan oluşan bir takım kullanmayı mümkün kılar.

Ayrıca, ayarları uyumlu ancak eğitim verileri farklı modeller birleştirilebilir; ya da temel modelin özgün yeteneklerine ince ayar yoluyla zarar verme riski taşımadan, hafif LoRA filtreleri aracılığıyla modele ek yetenekler kazandırılabilir.

Ancak birçok kullanıcının en çok ilgisini çeken ve yukarıdaki yöntemlerin tümünden daha kolay hâle gelen değişiklik, söz konusu güvenlik filtrelerinin ya da güvenlik bariyerlerinin kaldırılmasıdır.

Bu, pornografik içerik ve kötü amaçlı yazılım geliştirme çıktıları üreten modellere olanak tanısa da, aynı zamanda pek çok kullanıcının aşırı kısıtlayıcı (ve sık sık hatalı sonuç veren) bir kısıtlamalar bütünü olarak gördüğü şeyi de ortadan kaldırıyor.

Kaynak URL’de yer alan, Llama-2-7b-chat modelinin güvenlik gerekçesiyle makul isteklere yanıt vermeyi reddettiği pek çok gülünç örnekten biri. Kaynak

Heretic

Model sansürünü kaldırma alanında son zamanlarda çığır açan yazılım Heretic ile modellerin eğilimli olduğu “süslü” ve uzun uzadıya anlatan üslubun düzeyini azaltmak bile mümkün.

Heretic, gpt-oss’un sansürünü kaldırma işlemine başlıyor; ancak bunun için ortalama bir tüketicinin evinde bulunması pek olası olmayan, oldukça güçlü özelliklere sahip bir makine gerekiyor. Yine de işlem için gereken süre boyunca böyle bir makine internet üzerinden ucuza kiralanabilir. Kaynak

Daha da önemlisi, ret yanıtlarını bastıran ve modelin özgün davranışına verilen zararı en aza indiren bir abliterasyon yöntemini otomatik olarak arayan Heretic, sansürü kaldırma gibi görece zorlu bir işi son kullanıcı açısından tek bir komuta indiriyor.

Yukarıdaki ekran görüntüsünden de görebileceğiniz gibi Heretic, muhtemelen sıradan bir tüketicinin evinde bulunmayacak kadar güçlü bir GPU’dan yararlanıyor. Ancak kullanıcıların programı evlerindeki donanımda çalıştırması gerekmiyor; tıpkı 2002’de yazılımları bizzat kırmak zorunda olmadıkları gibi. Warez döneminde olduğu üzere, bu tür donanıma erişimi olan ya da sorun için bir miktar token harcamaya istekli, genellikle ticari amaç gütmeyen amatör üst akım sahne sağlayıcıları jailbreak işlemini gerçekleştiriyor ve sansürü kaldırılmış modeli sahneye yayıyor.

Hedef Tahtasında

“Şüpheli” bir dijital eylemin artık zor olmaktan çıkması, genellikle faaliyetin kendisini ve onu engellemeye yönelik “resmî” ilgiyi bir anda büyüten, bir gecede yaşanan bir kapasite sıçraması sayesinde olur (örneğin Napster ya da PopCornTime).

Heretic, Ollama gibi platformların giderek yaygınlaşması ve kullanım kolaylığıyla birleşince, gerçekten “aptalın bile kullanabileceği” bir yöntem henüz mevcut olmasa da sansürü kaldırılmış modellere erişimi teknik bilgisi olmayan kullanıcıların bile ulaşabileceği bir noktaya taşımaya başlıyor.

Bu da beni, söz konusu faaliyetin bir “sorun” teşkil edip etmediğine ilişkin önceki soruma geri getiriyor. Dün Arxiv’de yayımlanan bir makale, teknoloji tüketicilerinin özgürlüklerini kısıtlamaya ve teknoloji üzerindeki denetimi artırmaya yönelik çok yeni eğilimlere dayanarak, sansürü kaldırma konusunun giderek daha fazla dikkat çekeceğini ve bunun dünya genelinde daha fazla kısıtlayıcı yasaya yol açacağını düşündürüyor.

10a Labs’in raporu olan yeni makale, sansürü kaldırma hareketini olumsuz bir çerçevede ele alıyor ve alışıldık azınlıkta kalan kötüye kullanım vakalarını sunuyor. Tarih gösteriyor ki bu vakalar, mevcut eğilimlerin de işaret ettiği üzere, kısıtlamalara yol açacak.

Araştırma, sansürü kaldırılmış modellerin yayımlanıp yeniden dağıtılmasının ardından neler olduğunu izliyor ve sansürsüz modelleri entegre eden, öneren ya da varsayılan olarak kullanan 1,643 GitHub uygulaması belirliyor.

Söz konusu modeller, genel amaçlı sohbet botlarından belge işleme araçlarına; NSFW rol yapma ve hikâye anlatımından açık içerik hizmetlerine; bilgisayar korsanlığı ve saldırı amaçlı güvenlik araçlarından dolandırıcılık uygulamaları ve kötü amaçlı yazılım üreteçlerine kadar uzanıyor. Araştırmada yayımlanan modellerin %25’i “açıkça kötü amaçlı” olarak sınıflandırılmış:

Sansürsüz yapay zekâ modellerinin yayımlandıktan sonra nasıl kullanıldığının dökümü. Araştırmada, güvenlik kısıtlamaları kaldırılmış modelleri entegre eden, öneren ya da varsayılan olarak kullanan 1,643 GitHub uygulaması incelendi. Bunların %37’sinin genel amaçlı sansürsüz sohbet botları olduğu; siber güvenlik araçları ile belge işleme araçlarının ise ayrı ayrı %16’lık paya sahip olduğu belirlendi. Sesli asistanlar, NSFW rol yapma, yaratıcı yazarlık, kodlama ve diğer kullanımları kapsayan kategorilerin payları daha küçüktü. Makalede, belirlenen uygulamaların yaklaşık %25’inin “açıkça kötü amaçlı” olarak sınıflandırılabileceği belirtildi. Kaynak

Birleşik Krallık’ın web erişimine yönelik yakın zamanda getirdiği kısıtlamalar (ve bu kısıtlamaları aşan VPN erişimini de sınırlama yönündeki şimdilik askıya alınmış niyeti); Kaliforniya’nın 2027’de yürürlüğe girecek ve çoğu işletim sisteminin kullanıcıların yaş aralıklarını toplayıp uygulamalara iletmesini zorunlu kılan düzenlemesi; AB’nin yetişkinlere yönelik çevrimiçi içeriğe erişimde yaş doğrulamasını öngören planı; ve Avustralya’nın 16 yaşından küçüklerin sosyal medya hesabı açmasını yasaklaması göz önüne alındığında, yeni makale, ilginin artmasının nihayetinde denetimin ve düzenlemelerin sıkılaşmasına, hatta seçici ya da bütünüyle yasaklara yol açtığı örüntüye uyuyor gibi görünüyor.

Burada da Olabilir

Hayır, burada da kesinlikle olabilir; bunun nedeni kısmen yeni araştırmanın yazarlarının tahmin ettiği üzere kötü amaçlı kullanım oranının yüksek olması, kısmen de kontrollerin yerel olarak çalıştırılan yapay zekâya yönelik giderek yaygınlaşan eğilimi daha fazla kısıtlayacak olmasıdır. Bu eğilim, özellikle modeller dizginlerinden kurtarıldığında, hükümetler ve kurumlar tarafından bir tehdit olarak algılanabilir.

Sansürü kaldırma faaliyetlerini, NSFW içerik üretimini «kolaylaştırmak» ve kötü amaçlı bilgisayar korsanlığıyla ilişkilendirerek sunmak, sansürü kaldırmayı yanıltıcı biçimde iki seçenekli bir mesele gibi göstermeyi mümkün kılıyor: Kötü amaçlarla kullanılabildiğine göre düzenlemeye tabi tutulması gerektiği ileri sürülüyor. Uygulamada, bu kadar çok olası kullanım alanı bulunduğundan, bu tür bir işlevi hiçbir şekilde düzenlemenin, onu tamamen yasaklamak dışında gerçekçi bir yolu görünmüyor.

Ayrıca, bir LLM’nin sansürünü kaldırmanın modelin örneğin CSAM kurgusu üretmesine olanak tanıyabileceği durumlarda, kısıtlayıcı düzenlemeler kesinlikle kabul görecek bir seçenek gibi görünüyor. Çünkü bu düzenlemelere karşı çıkan herkes, makul kullanımları yerine sansürü kaldırılmış bir modelin kötü amaçlı kullanımlarını «desteklemekle» örtük biçimde suçlanabilir.

Bu yaklaşım, ince ayar yapılmış veya LoRA uygulanmış bir modelin, kullanıcının modele kazandırmak isteyebileceği belirli herhangi bir alanda çok daha etkili içerik üretebileceği gerçeğini göz ardı ediyor; çünkü modelin temel ağırlıkları, göreve o kadar çok uyarlanıyor ki, önceden eğitilerek kazandırılmış korumaları zaten tamamen etkisiz hâle getirebiliyor.

Her Şey Kullanım Kolaylığıyla İlgili

Ölçekli benimsemeyi tetikleyen şey kullanım kolaylığıdır; ölçekli benimseme de hükümetlerin yasa çıkarması yönündeki baskıyı artırır (kamuoyu baskı gruplarından, sektör lobicilerinden veya hükümetler arası baskı yoluyla).

İnce ayar ve LoRA’lar, özgür ve açık kaynaklı (FOSS) bir temel modelin kilidini açmaktan neredeyse kesinlikle daha hedefe yönelik sonuçlar sağlayabilse de, bu yöntemleri uygulamak belli ölçüde disiplin ve çaba gerektiriyor.

Sansürü kaldırılmış/kuantize edilmiş bir modeli yerel olarak çalıştırmak gerçekten birkaç tıklamadan ibaret hâle geldiğinde (çünkü kullanıcı, modeli Heretic kullanarak kendi başına çözmek yerine neredeyse kesinlikle «önceden sansürü kaldırılmış» bir modeli indirecektir), bu faaliyet geek çevrelerinin dışına çıkarak kamusal alana girer; burada kötüye kullanımların siyasi çekişme konusu olması muhtemeldir.

Bu yaz NVIDIA, açık kaynaklı modeller üzerindeki hükümet kısıtlamalarını önlemeye yönelik olarak, önde gelen teknoloji ortaklarından oluşan bir gruba öncülük etti. Yayımlanan açık mektupta, bir azınlığın teknolojiyi kötüye kullanmasının, teknolojinin genel yarar sağlama potansiyelini tehlikeye atmaması gerektiği bir kez daha savunuluyor. Ancak bu görüş son yıllarda pek rağbet görmedi.

*Model yaratıcılarının, kullanıcıların faaliyetlerini kısıtlama yönündeki beyan ettikleri arzularında samimi olup olmadıkları sık sık sorgulanıyor; koruyucu önlemler bile «tiyatro» diye nitelendirilerek küçümseniyor.