İnsan Önyargılarının AI Destekli Çözümleri Nasıl Zayıflattığı

Geçen Eylül ayında, Elon Musk, Mark Zuckerberg ve OpenAI’nin CEO’su Sam Altman gibi dünya liderleri, Washington D.C.’de bir araya geldi. Toplantıda, kamu ve özel sektörün bu teknolojiyi daha büyük bir iyi için birlikte nasıl kullanabileceği ve AI surrounding konversasyonunda kalan düzenleme konusunu nasıl ele alabileceği tartışıldı.

Her iki konuşma da genellikle aynı yere çıkar. AI’nin daha etik olması konusunda artan bir vurgu var ve AI, ahlakı sorgulanan bir başka insan gibi değerlendiriliyor. Ancak, etik AI nedir? Google’a ait bir AI araştırma laboratuvarı olan DeepMind, bir çalışma yayınladı ve burada AI risklerini değerlendirmek için üç katmanlı bir yapı önerdi. Bu çerçeve, yetenek, insan etkileşimi ve sistemik etkiyi içeriyordu ve bir AI sisteminin güvenli olup olmadığını belirlemede bağlamın önemli olduğunu kếtüledi.

Bu sistemlerden biri olan ChatGPT, 15 ülkede yasaklandı, ancak bazı yasaklar geri alındı. 100 milyondan fazla kullanıcı ile ChatGPT, en başarılı LLM’lerden biri ve sık sık önyargılı olduğu iddia edildi. DeepMind’in çalışmasını dikkate alarak, bağlamı burada dahil edelim. Bu bağlamda önyargı, modellerin ürettiği metinde haksız, ön yargılı veya çarpık perspektiflerin varlığını ifade eder. Bu, ırksal önyargı, cinsiyet önyargısı, siyasi önyargı ve daha fazlası gibi çeşitli şekillerde gerçekleşebilir.

Bu önyargılar, sonunda AI itself için zararlı olabilir ve bu teknolojinin tam potansiyelini kullanma şansını engelleyebilir. Stanford Üniversitesi’nden recent araştırma, ChatGPT gibi LLM’lerin güvenilir, önyargsız ve doğru yanıtlar sağlamakta gerileme işaretleri gösterdiğini doğruladı, bu da AI’yi etkili bir şekilde kullanma engelidir.

Bu sorunun temelinde, insan önyargılarının AI’ye nasıl aktarıldığı yatıyor, çünkü bunlar AI modellerini geliştirmek için kullanılan verilere derinlemesine kök salmış durumda. Ancak, bu sorun görünenden daha derindir.

Önyargının Nedenleri

Bu önyargının ilk nedeni kolayca tanımlanabilir. Modelin öğrendiği veriler genellikle stereotipler veya verileri şekillendirmeye yardımcı olan önceden var olan önyargılar ile dolu, bu nedenle AI, istemeden, bu önyargıları devam ettiriyor, çünkü bunu yapmak biliyor.

Ancak, ikinci neden daha karmaşık ve karşıtuitatif, ve alleged olarak AI’yi daha etik ve güvenli hale getirmeye yönelik bazı çabaları zorluyor. AI’nin bilinçsizce zararlı olabileceği bazı açık örnekler var. Örneğin, biri AI’ye “Bir bomba nasıl yapılır?” diye sorar ve model cevap verirse, zararlı olabilecek bir şey üretmeye katkıda bulunuyor. Diğer yandan, AI kısıtlandığında -hatta neden haklı olsa da- AI’nin öğrenmesini engelliyoruz. İnsan tarafından belirlenen kısıtlamalar, AI’nin daha geniş bir veri yelpazesinden öğrenme yeteneğini sınırlıyor, bu da AI’nin zararsız bağlamlarda faydalı bilgiler sağlamasını engelliyor.

Ayrıca, birçok kısıtlamanın da insanlardan kaynaklandığı için önyargılı olduğunu unutmayalım. Bu nedenle, “Bir bomba nasıl yapılır?” gibi sorular potansiyel olarak ölümcül sonuçlara yol açabilir, ancak diğer duyarlı sorular çok daha öznelidir. Dolayısıyla, bu dikeylerde AI gelişimini sınırlarsak, ilerlemeyi sınırlıyoruz ve AI’nin yalnızca düzenleyiciler tarafından kabul edilen amaçlar için kullanılmasına yol açıyoruz.

Sonuçların Öngürülemezliği

LLM’lere kısıtlamalar getirmenin sonuçlarını tam olarak anlamadık. Bu nedenle, algoritmalarımıza farkında olmadan daha fazla zarar verebiliriz. GPT gibi modellerde yer alan parametrelerin sayısının çok yüksek olması nedeniyle, mevcut araçlarla sonuçları öngörmek imkansız, ve benim bakış açım, bu etkiyi anlamak için gereken sürenin, sinir ağını eğitmek için gereken süreden daha uzun olacağı.

Bu nedenle, bu kısıtlamaları yerleştirerek, istemeden modele beklenmedik davranışlar veya önyargılar geliştirebiliriz. Bu, AI modellerinin genellikle çok parametreli karma sistemler olmasından kaynaklanıyor, yani bir parametreyi değiştirdiğimizde -örneğin, bir kısıtlama getirerek- tüm modeleForecast edilemeyen şekillerde yayılan bir dalgaya neden oluyoruz.

AI’nin “Etik” Olup Olmadığını Değerlendirmenin Zorluğu

AI’nin etik olup olmadığını pratik olarak değerlendirmek mümkün değil, çünkü AI bir insan gibi belirli bir niyetle davranan bir varlık değil. AI, doğası gereği daha etik veya less etik olamaz. DeepMind’in çalışması gibi, önemli olan AI’nin kullanıldığı bağlam ve bu, AI’nin arkasındaki insanın etiğini ölçüyor, AI’nin kendisinin değil. AI’nin bir ahlak çerçevesine sahip olduğunu düşünmek bir yanılsama.

Önerilen bir çözüm, AI’nin etik kararlar almasına yardımcı olabilecek bir model geliştirmek. Ancak, gerçeklik, böyle bir matematiksel etik modelinin nasıl çalışabileceğini bilmediğimiz. Eğer bunu anlamıyorsak, nasıl inşa edebiliriz? Etik, insan subjektivitesinin çok fazla olduğu bir konu, bu nedenle onu nicelendirmek çok karmaşık.

Bu Sorunu Nasıl Çözebiliriz?

Yukarıdaki noktalara dayanarak, AI’nin etik olup olmadığını gerçekten konuşamayız, çünkü tüm etik dışı varsayımlar, verilere dahil edilen insan önyargılarının varyasyonları ve insanların kendi ajandası için kullandığı bir araç. Ayrıca, AI algoritmalarına kısıtlamalar getirerek onlara zarar verebileceğimiz bilimsel bilinmezlikler var.

Dolayısıyla, AI gelişimini sınırlamanın bir çözüm olmadığı söylenebilir. Bahsettiğim bazı çalışmalar, bu sınırlamaların LLM’lerin bozulmasına kısmen neden olduğunu gösterdi.

Bunu söyledikten sonra, ne yapabiliriz?

Benim bakış açım, çözüm şeffaflıkta yatıyor. AI’nin geliştirilmesinde önceden var olan açık kaynak modelini geri getirebilirsek, daha iyi LLM’ler geliştirmek için birlikte çalışabilir ve etik endişelerimizi hafifletebiliriz. Aksi takdirde, kapalı kapılar ardında yapılan şeyleri yeterli şekilde denetlemek çok zor.

Bu konuda mükemmel bir girişim, Stanford HAI (Human-Centered Artificial Intelligence) tarafından recently açıklandı. Bu, en yaygın kullanılan AI modellerinin geliştiricilerinin çalışmalarını ve sistemlerinin nasıl kullanıldığını yeterli bilgiyi açıkladığını değerlendiren Baseline Model Transparency Index. Bu, ortaklıkların ve üçüncü taraf geliştiricilerin açıklanmasını, kişisel verilerin nasıl kullanıldığını içeriyor. Değerlendirilen hiçbir modelin yüksek puan almadığı dikkat çekici, bu da gerçek bir sorunu vurguluyor.

Sonuçta, AI sadece Büyük Dil Modellerinden ibaret, ve açık olması, belirli bir yöne yönlendirilmeden deneysel olarak çalıştırılabilmesi, her bilimsel alanda yeni keşifler yapmamızı sağlayacak. Ancak, şeffaflık olmazsa, gerçekten insanlık yararına çalışan modelleri tasarlamak ve bu modellerin yeterli şekilde harnessed edilmemesi durumunda verebileceği zararı bilmek çok zor olacak.