Düşünce Liderleri
ChatGPT’nin Potansiyel Risklerine İlişkin Endişeler Hız Kazanıyor ancak AI’ye Ara Verme İyi Bir Hamle mi?
Elon Musk ve diğer küresel teknoloji liderleri ChatGPT’nin yayınlanmasının ardından AI’de bir duraklama çağrısında bulunurken, bazı eleştirmenler geliştirme durdurmanın cevap olmadığını düşünüyor. AI evangelisti Andrew Pery, akıllı otomasyon şirketi ABBYY’den, bir mola vermenin diş macununu tüpten geri koymaya benzer olduğunu düşünüyor. Burada, neden böyle düşündüğünü anlatıyor…
AI uygulamaları her yönüyle hayatımızı etkiliyor. Övgüye değer olsa da, şimdi fren yapmak imkansız olabilir.
Potansiyel zararlı etkilerini kontrol altına almak için artan düzenleyici denetim için meşru endişeler var.
İtalya Veri Koruma Otoritesi, kişisel veri toplama ve işleme şekli ile çocukların yaşlarına ve farkındalıklarına tamamen uygun olmayan yanıtlara maruz kalma konusundaki endişeler nedeniyle ChatGPT’nin kullanımını ülke çapında geçici olarak engelledi.
Avrupa Tüketici Örgütü (BEUC), ChatGPT ve benzeri sohbet botlarının insanları nasıl aldatıp manipüle edebileceği konusunda artan endişeler nedeniyle AB’nin büyük ölçekli dil modellerinin potansiyel zararlı etkilerini araştırmaya çağırıyor. Bu AI sistemlerine daha fazla kamu denetimi gerekiyor ve kamu otoriteleri üzerinde kontrolünü yeniden sağlamalıdır.
ABD’de, AI ve Dijital Politika Merkezi, ChatGPT’nin Federal Ticaret Komisyonu Act (FTC Act) (15 USC 45)’in 5. bölümünü ihlal ettiğini iddia ederek Federal Ticaret Komisyonu’na şikayette bulundu. Şikayetin dayanağı, ChatGPT’nin AI sistemleri için Federal Ticaret Komisyonu tarafından belirlenen şeffaflık ve açıklanabilirlik rehberine uymadığı iddiasıdır. ChatGPT’nin several bilinen riskleri olduğunu kabul ettiği, bunların arasında gizlilik haklarını ihlal etme, zararlı içerik üretme ve yanlış bilgi yayma gibi hususlar yer alıyor.
Büyük ölçekli dil modelleri gibi ChatGPT’nin faydası dikkate alınarak, araştırmalar bunların potansiyel karanlık yüzüne dikkat çekiyor. ChatGPT, internetten alınan büyük eğitim veri kümelerine dayanan derin öğrenme algoritmalarına dayanarak yanlış cevaplar üretebiliyor. Diğer sohbet botlarının aksine, ChatGPT derin öğrenme tekniklerine dayanan dil modelleri kullanıyor ve platform “bir dizi tahmin yaparak bir cevap üretiyor, bu da neden yanlış cevapları tamamen doğruymuş gibi savunabileceği” reasonu ile working.
Ayrıca, ChatGPT’nin cinsiyet, ırk ve azınlık gruplarına karşı ayrımcılık yapan cevaplar ürettiği, şirketin bunu hafifletmeye çalıştığı kanıtlandı. ChatGPT, kötü niyetli aktörlerin kullanıcıları sömürebileceği ve gizlilik ve dolandırıcılık saldırılarına maruz bırakabileceği bir bonanza olabilir.
Bu endişeler, Avrupa Parlamentosu’nun bir yorum yayınlamasına neden oldu. Bu yorum, mevcut AB Yapay Zeka Yasası (AIA) taslağının güncellenmesi ihtiyacını vurguluyor. AIA taslağı, dar AI uygulamalarına odaklanıyor ve bu, yüksek riskli AI sistemleri kategorilerini içeriyor. Ancak, AIA taslağı, büyük dil modelleri gibi genel amaçlı AI sistemlerini kapsıyor değil. Genel amaçlı AI sistemleri, geniş bir yelpazede zeki görevleri gerçekleştirebiliyor. Bu sistemlerin geliştiricilerinin, bu sistemleri piyasaya sürmeden önce katı ön testlerden geçmeleri ve performanslarını potansiyel zararlı çıktılar için sürekli izlemeleri gerekiyor.
Bir araştırma, AB AIA düzenlemesinin “primarily conventional AI modellerine odaklandığını ve günümüzde tanık olduğumuz yeni nesil AI sistemlerine odaklanmadığını” belirtiyor.
Düzenleyicilerin dikkate alması gereken dört strateji öneriyor:
- Bu sistemlerin geliştiricilerinin, zararlı çıktıları önlemek için risk yönetimi süreçlerinin etkinliğini düzenli olarak raporlamaları gerekiyor.
- İşletmelerin, büyük ölçekli dil modelleri kullandıklarını müşterilerine açıklamaları gerekiyor.
- Geliştiricilerin, potansiyel zararlı sonuçlara karşı korumak için risk yönetimi çerçevesi içinde aşamalı bir yayın süreci izlemeleri gerekiyor.
- Geliştiricilerin, “riski kökünden azaltmak” için eğitim veri kümesini yanlış temsil edilmeden önce proaktif olarak denetlemeleri gerekiyor.
Yenilikçi teknolojilerle ilgili riskleri artıran bir faktör, ilk hareket avantajını elde etmek için “önce yayınla, sonra düzelt” iş modelini benimsemektir. OpenAI, ChatGPT’nin potansiyel riskleri hakkında somewhat şeffaf olsa da, bunu geniş ticari kullanım için “alıcı dikkat” uyarısı ile yayınladı. Bu, böyle bir yıkıcı teknoloji ile başa çıkmak için uygun bir yaklaşım olmayabilir. Proaktif düzenleme ve katı uygulama önlemleri, böyle bir teknoloji ile başa çıkmada öncelikli olmalıdır.
Sanal zeka zaten hayatımızın几乎 her yönünü etkiliyor, bu nedenle AI geliştirme durdurulması, birçok öngörülmemiş engel ve sonuçlara neden olabilir. Aniden fren yapmak yerine, endüstri ve yasama oyuncularının, insan merkezli değerlere dayalı, şeffaflık, hesap verebilirlik ve adalet gibi eyleme geçirilebilir düzenlemeleri合作 etmesi gerekiyor. Mevcut yasaları, seperti AIA, referans alarak, liderler, küresel standartlara sahip, kapsamlı politikalar tasarlayabilir ve yapay zekayı insan deneyimlerini iyileştirme sınırları içinde tutabilir.
