ChatGPT’nin Potansiyel Risklerine İlişkin Endişeler Hız Kazanıyor, Ancak AI’nin Durdurulması İyi Bir Hareket Mi?

Elon Musk ve diğer küresel teknoloji liderleri, ChatGPT’nin yayınlanmasının ardından AI’nin durdurulmasını talep etti, ancak bazı eleştirmenler, geliştirmelerin durdurulmasının doğru cevap olmadığını düşünüyor. Akıllı otomasyon şirketi ABBYY’nin AI savunucusu Andrew Pery, duraklamanın diş macununu tüpüne geri koymaya benzer olduğunu düşünüyor. Burada, neden böyle düşündüğünü anlatıyor…

AI uygulamaları, hayatımızın几乎 her yönünü etkiliyor. Övgüye değer olsa da, şimdi durdurmaya çalışmak imkansız olabilir.

AI’nin potansiyel zararlı etkilerini kontrol altına almak için artan düzenleyici denetim çağrılarına ilişkin endişeler kesinlikle mevcuttur.

İtalya Veri Koruma Otoritesi, ChatGPT’nin kullanımını, modeli eğitmek için kullanılan kişisel veri toplama ve işleme yöntemleri ile ilgili gizlilik endişeleri ve çocuklara yaşlarına ve bilincine uygun olmayan yanıtlar vermesi nedeniyle ülke çapında geçici olarak engelledi.

Avrupa Tüketici Örgütü (BEUC), ChatGPT ve benzeri sohbet botlarının insanları aldatma ve manipüle etme potansiyeli konusunda artan endişeler nedeniyle, AB’nin büyük ölçekli dil modellerinin potansiyel zararlı etkilerini araştırmaya çağırıyor. Bu AI sistemlerine daha fazla kamu denetimi gerekiyor ve kamu otoriteleri bunları kontrol altına almalı.

ABD’de, AI ve Dijital Politika Merkezi, ChatGPT’nin Federal Ticaret Komisyonu Yasası’nın 5. bölümünü (FTC Act) (15 USC 45) ihlal ettiğini iddia ederek Federal Ticaret Komisyonu’na şikayette bulundu. Şikayetin dayanağı, ChatGPT’nin AI sistemleri için Federal Ticaret Komisyonu tarafından belirlenen şeffaflık ve açıklanabilirlik rehberine uymadığı iddiasıdır. ChatGPT’nin bilinen risklere ilişkin açıklamalarına atıfta bulunularak, gizlilik haklarını ihlal etme, zararlı içerik üretme ve yanlış bilgilendirme yayma risklerine dikkat çekildi.

Büyük ölçekli dil modelleri gibi ChatGPT’nin faydası dikkate alınarak, araştırmalar bu tür sistemlerin potansiyel karanlık yüzünü vurguluyor. ChatGPT, internetten alınan büyük eğitim veri kümelerine dayanan derin öğrenme algoritmaları kullanan bir model olduğu için yanlış cevaplar üretebiliyor. Diğer sohbet botlarından farklı olarak, ChatGPT, insan konuşmalarına benzer metinler üreten derin öğrenme tekniklerine dayalı dil modelleri kullanıyor ve platform, “yanlış cevapları tamamen doğruymuş gibi savunabiliyor”.

Dahası, ChatGPT, cinsiyet, ırk ve azınlık gruplarına karşı ayrımcılık yapan yanıtlar üreterek önyargıyı artırma eğilimindedir, bu da şirketin azaltmaya çalıştığı bir sorun. ChatGPT, ayrıca masum kullanıcıları hedef alan kötü niyetli aktörler için bir fırsat olabilir ve kullanıcıların gizliliklerini tehlikeye atabilir ve dolandırıcılık saldırılarına maruz bırakabilir.

Bu endişeler, Avrupa Parlamentosu’nun, mevcut AB Yapay Zeka Yasası taslağının mevcut hükümlerini daha da güçlendirmeye ilişkin bir yorum yayınlamasına neden oldu. Yorum, özellikle işe alım, kredi değerlendirmesi, istihdam, polislik ve sosyal hizmetlere erişim gibi yüksek riskli AI sistemleri kategorilerini içeren dar AI uygulamalarına odaklanan mevcut düzenleme taslağının, genel amaçlı AI sistemlerini kapsayacak şekilde genişletilmesi gerektiğini vurguluyor. Genel amaçlı AI sistemleri, daha gelişmiş bilişsel yetenekler sunan ve “geniş bir yelpazede akıllı görevleri gerçekleştirebilen” büyük dil modellerini içerir. Bu tür sistemlerin geliştiricilerinin, bu sistemleri piyasaya sürmeden önce katı ön testlerden geçmeleri ve olası zararlı sonuçları önlemek için sürekli olarak performanslarını izlemeleri gerektiği konusunda görüş birliği tồnuyor.

Bu konuya dikkat çeken bir araştırma, AB Yapay Zeka Yasası düzenlemenin “primarily geleneksel AI modellerine odaklandığını, ancak bugün doğmakta olan yeni nesle odaklanmadığını” vurguluyor.

Düzenleyicilerin dikkate alması gereken dört strateji öneriyor:

1. Büyük ölçekli dil modelleri geliştirenlerin, zararlı çıktıları önlemek için risk yönetimi süreçlerinin etkinliğini düzenli olarak raporlamaları gerekiyor.
2. İşletmelerin, büyük ölçekli dil modelleri kullandıklarını müşterilerine açıklamaları gerekiyor.
3. Geliştiricilerin, potansiyel olarak zararlı sonuçları önlemek için risk yönetimi çerçevesi kapsamında aşamalı sürümlere tabi tutmaları gerekiyor.
4. Geliştiricilerin, “kökünden riski azaltmak” için eğitim veri kümesini yanlış temsil edilmelere karşı proaktif olarak denetlemeleri gerekiyor.

Yenilikçi teknolojilerin risklerini artıran bir faktör, inovatörlerin ilk hareket avantajını elde etmek için “önce gönder, sonra düzelt” iş modelini benimsemeleridir. OpenAI, ChatGPT’nin potansiyel riskleri konusunda somewhat şeffaf olsa da, “alıcı dikkatli olsun” ilkesiyle geniş ticari kullanıma sundu. Bu yaklaşım, sohbet botlarının yaygın etkileri dikkate alındığında, kabul edilemez olabilir. Proaktif düzenleme ve güçlü uygulama önlemleri, böyle bir yenilikçi teknolojiyi ele alırken öncelikli olmalıdır.

Sanal zeka, hayatımızın neredeyse her yönünü etkiliyor, bu nedenle AI geliştirmesinin durdurulması, birçok beklenmedik engel ve sonuçlara neden olabilir. Aniden frenlemektense, endüstri ve yasama oyuncularının, insan merkezli değerlere dayalı, şeffaflık, hesap verebilirlik ve adalete dayalı somut düzenlemeler oluşturmak için iyi niyetle işbirliği yapmaları gerekiyor. Mevcut yasaları, seperti AIA’yı referans alarak, özel ve kamu sektöründeki liderler, kötüye kullanımın önlenmesi ve olumsuz sonuçların hafifletilmesi için kapsamlı, küresel standartlar oluşturabilir ve yapay zekayı, insan deneyimlerini iyileştirme sınırları içinde tutabilir.