Düşünce Liderleri
ChatGPT’nin Potansiyel Risklerine Dair Endişeler Artıyor, Peki Yapay Zekaya Ara Vermek Doğru Bir Adım mı?

Öne çıkan noktalarÜmumi təyinatlı süni intellektin (ChatGPT kimi) tənzimlənməsi, Aİ Süni İntellekt…
Daha fazla göster
- Ümumi təyinatlı süni intellektin (ChatGPT kimi) tənzimlənməsi, Aİ Süni İntellekt Aktının dar çərçivəsindən kənara çıxan yeni qaydalar tələb edir.
- OpenAI-nin 'əvvəlcə burax, sonra düzəlt' modeli, adekvat təhlükəsizlik tədbirləri olmadan riski istifadəçilərə yükləyir.
- Proaktiv tənzimləmə və icra, süni intellektin qərəz və dezinformasiyanı gücləndirməsinin qarşısını almaq üçün vacibdir.
Elon Musk ve diğer küresel teknoloji liderleri, ChatGPT’nin yayınlanmasının ardından AI geliştirme çalışmalarına ara verilmesini talep etti, ancak bazı eleştirmenler, geliştirmelerin durdurulmasının doğru cevap olmadığını düşünüyor. Akıllı otomasyon şirketi ABBYY’nin AI savunucusu Andrew Pery, duraklamanın diş macununu tüpüne geri koymaya benzer olduğunu düşünüyor. Burada, neden böyle düşündüğünü anlatıyor…
AI uygulamaları, hayatımızın hemen her yönünü etkiliyor. Övgüye değer olsa da, şimdi durdurmaya çalışmak imkansız olabilir.
AI’nin potansiyel zararlı etkilerini kontrol altına almak için artan düzenleyici denetim çağrılarına ilişkin endişeler kesinlikle mevcuttur.
İtalya Veri Koruma Otoritesi, ChatGPT’nin kullanımını, modeli eğitmek için kullanılan kişisel veri toplama ve işleme yöntemleri ile ilgili gizlilik endişeleri ve çocuklara yaşlarına ve bilincine uygun olmayan yanıtlar vermesi nedeniyle ülke çapında geçici olarak engelledi.
Avrupa Tüketici Örgütü (BEUC), ChatGPT ve benzeri sohbet botlarının insanları aldatma ve manipüle etme potansiyeli konusunda artan endişeler nedeniyle, AB’nin büyük ölçekli dil modellerinin potansiyel zararlı etkilerini araştırmaya çağırıyor. Bu AI sistemlerine daha fazla kamu denetimi gerekiyor ve kamu otoriteleri bunları kontrol altına almalı.
ABD’de, AI ve Dijital Politika Merkezi, ChatGPT’nin Federal Ticaret Komisyonu Yasası’nın 5. bölümünü (FTC Act) (15 USC 45) ihlal ettiğini iddia ederek Federal Ticaret Komisyonu’na şikayette bulundu. Şikayetin dayanağı, ChatGPT’nin AI sistemleri için Federal Ticaret Komisyonu tarafından belirlenen şeffaflık ve açıklanabilirlik rehberine uymadığı iddiasıdır. ChatGPT’nin bilinen risklere ilişkin açıklamalarına atıfta bulunularak, gizlilik haklarını ihlal etme, zararlı içerik üretme ve yanlış bilgilendirme yayma risklerine dikkat çekildi.
ChatGPT gibi büyük ölçekli dil modellerinin faydalarına rağmen, araştırmalar bu tür sistemlerin potansiyel karanlık yüzünü vurguluyor. ChatGPT, internetten alınan büyük eğitim veri kümelerine dayanan derin öğrenme algoritmaları kullanan bir model olduğu için yanlış cevaplar üretebiliyor. Diğer sohbet botlarından farklı olarak, ChatGPT, insan konuşmalarına benzer metinler üreten derin öğrenme tekniklerine dayalı dil modelleri kullanıyor ve platform «bir dizi tahminde bulunarak yanıt oluşturuyor; yanlış yanıtları tamamen doğruymuş gibi savunabilmesinin nedenlerinden biri de bu».
Dahası, ChatGPT, cinsiyet, ırk ve azınlık gruplarına karşı ayrımcılık yapan yanıtlar üreterek önyargıyı artırma eğilimindedir, bu da şirketin azaltmaya çalıştığı bir sorun. ChatGPT, ayrıca masum kullanıcıları hedef alan kötü niyetli aktörler için bir fırsat olabilir ve kullanıcıların gizliliklerini tehlikeye atabilir ve dolandırıcılık saldırılarına maruz bırakabilir.
Bu endişeler, Avrupa Parlamentosu’nun bir yorum yayımlamasına yol açtı. Bu yorum, o sırada henüz onaylanmayı bekleyen AB Yapay Zeka Yasası taslağının mevcut hükümlerini daha da güçlendirme gereğini vurguluyordu. Yorum, özellikle işe alım, kredi değerlendirmesi, istihdam, polislik ve sosyal hizmetlere erişim gibi yüksek riskli AI sistemleri kategorilerini içeren dar AI uygulamalarına odaklanan mevcut düzenleme taslağının, genel amaçlı AI sistemlerini kapsayacak şekilde genişletilmesi gerektiğini vurguluyor. Genel amaçlı AI sistemleri, daha gelişmiş bilişsel yetenekler sunan ve “geniş bir yelpazede akıllı görevleri gerçekleştirebilen” büyük dil modellerini içerir. Bu tür sistemlerin geliştiricilerinin, bu sistemleri piyasaya sürmeden önce önceden sıkı uygunluk testleri gerçekleştirmeleri ve olası zararlı sonuçları önlemek için sürekli olarak performanslarını izlemeleri gerektiği konusunda çağrılar yapılıyor.
Bu konuya dikkat çeken bir araştırma, AB Yapay Zeka Yasası düzenlemenin “öncelikle geleneksel AI modellerine odaklandığını, ancak bugün doğmakta olan yeni nesle odaklanmadığını” vurguluyor.
Düzenleyicilerin dikkate alması gereken dört strateji öneriyor:
- Büyük ölçekli dil modelleri geliştirenlerin, zararlı çıktıları önlemek için risk yönetimi süreçlerinin etkinliğini düzenli olarak raporlamaları gerekiyor.
- Büyük ölçekli dil modellerini kullanan işletmeler, içeriğin yapay zeka tarafından üretildiğini müşterilerine açıklamakla yükümlü olmalıdır.
- Geliştiriciler, öngörülemeyen zararlı sonuçlara karşı koruma sağlamayı amaçlayan risk yönetimi çerçevesinin bir parçası olarak resmî bir aşamalı yayımlama sürecini benimsemelidir.
- Geliştiricilerin, “kökünden riski azaltmak” için eğitim veri kümesini yanlış temsil edilmelere karşı proaktif olarak denetlemeleri gerekiyor.
Yenilikçi teknolojilerin risklerini artıran bir faktör, inovatörlerin ilk hareket avantajını elde etmek için “önce gönder, sonra düzelt” iş modelini benimsemeleridir. OpenAI, ChatGPT’nin potansiyel riskleri konusunda bir ölçüde şeffaf olsa da, “alıcı dikkatli olsun” ilkesiyle geniş ticari kullanıma sundu. Bu yaklaşım, sohbet botlarının yaygın etkileri dikkate alındığında, kabul edilemez olabilir. Proaktif düzenleme ve güçlü uygulama önlemleri, böyle bir yenilikçi teknolojiyi ele alırken öncelikli olmalıdır.
Yapay zeka, hayatımızın neredeyse her yönünü etkiliyor, bu nedenle AI geliştirme çalışmalarına ara verilmesi, birçok beklenmedik engel ve sonuçlara neden olabilir. Aniden frenlemektense, endüstri ve yasama oyuncularının, insan merkezli değerlere dayalı, şeffaflık, hesap verebilirlik ve adalete dayalı somut düzenlemeler oluşturmak için iyi niyetle işbirliği yapmaları gerekiyor. AIA gibi mevcut mevzuat çalışmalarını referans alarak, özel ve kamu sektöründeki liderler, kötüye kullanımın önlenmesi ve olumsuz sonuçların hafifletilmesi için kapsamlı, küresel standartlar oluşturabilir ve yapay zekayı, insan deneyimlerini iyileştirme sınırları içinde tutabilir.












